论文分享：Constraint-Driven Auto-Tuning of GEMM-like Operators for MT-3000 Many-core Processor
论文分享：Constraint-Driven-Auto-Tuning-of-GEMM-like-Operators-for-MT-3000-Many-core-Processor
1 概况
1.1 工作内容
针对新一代天河超级计算机所使用的核心芯片——MT-3000 众核处理器，进行“类 GEMM”算子优化的工作。
文中提出了一种 DynaChain 的深度学习（DL）算子编译优化框架，专门针对 MT-3000 这样的异构众核架构。
核心设计原则：计算与访存分离
1. 计算与访存解耦 (Decoupling Computation and Data Movement)
原理： 它将算子的“计算逻辑”与“数据搬运逻辑”分开处理。
作用： 这样可以独立优化这两者，从而在整个算子调度过程中最大限度地实现数据的全局复用，减少昂贵的内存访问开销。
2. 约束依赖链 (Constraint Dependency Chains)
原理： 在算子调度的搜索空间中，存在大量无效或次优的选项。DynaChain 通过引入“约束依赖链”来动态排除这些无效路径。
作用： 大幅缩小了优化算法的搜索空 ...
【CUDA】（三）CUDA执行模型
（三）CUDA执行模型
本篇笔记参考如下：
https://face2ai.com/program-blog/#GPU编程（CUDA）
本章内容概览：本章内容：
·通过配置文件驱动的方法优化内核
·理解线程束执行的本质
·增大GPU的并行性
·掌握网格和线程块的启发式配置
·学习多种CUDA的性能指标和事件
·了解动态并行与嵌套执行
3.1 CUDA执行模型概述
CUDA执行模型揭示了GPU并行架构的抽象视图，使我们能够据此分析线程的并发。
3.1.1 GPU架构概述
Fermi SM的关键组件：
·CUDA核心
·共享内存/一级缓存
·寄存器文件
·加载/存储单元
·特殊功能单元
·线程束调度器
示例图如下：
Blackwell的关键组件
CUDA 核心：
第五代张量核心：
新增/关键组件：这是 Blackwell 的核心进化点。
寄存器文件 ：
用于存储线程状态和操作数。
Blackwell 维持了极大的寄存器规模，以支撑高并发的线程执行（尽管具体的 GB206 每个 SM 寄存器总量通常延续自上一代的 64K 或更高规格）。
共享内存/一级数据缓存：
采用 ...
【CUDA】（二）CUDA编程模型
（二）CUDA编程模型
本篇笔记参考如下：
https://zhuanlan.zhihu.com/p/681568740
https://blog.csdn.net/xierhacker/article/details/52744251?ops_request_misc=%257B%2522request%255Fid%2522%253A%25225a3632d0547e40669409db935762a62a%2522%252C%2522scm%2522%253A%252220140713.130102334..%2522%257D&request_id=5a3632d0547e40669409db935762a62a&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~all~sobaiduend~default-1-52744251-null-null.142
内容概览：
写一个CUDA程序
执行一个核函数
用网格和线程块组织线程
GPU性能测试
2.1 CUDA编程模型 ...
【CUDA】（一）基于CUDA的异构并行计算
（一）基于CUDA的异构并行计算
本篇笔记参考如下：
https://baike.baidu.com/item/冯·诺依曼结构/9536784
自本章开始使用配置和版本如下：
1234显卡：NVIDIA GeForce RTX 5060 Ti 16gCUDA Toolkit 安装版本：13.0.88架构：-arch=sm_120（Blackwell）优化级别：O2
1.1 并行计算
并行计算通常涉及两个不同的计算技术领域。
·计算机架构（硬件方面）
·并行程序设计（软件方面）
书中提及大多数现代处理器都应用了哈佛体系结构
123·内存（指令内存和数据内存）·中央处理单元（控制单元和算术逻辑单元）·输入/输出接口
实际上，如今在现代高性能计算机（如电脑、手机）中，普遍采用的是一种“混合模式”，通常被称为“改进型哈佛架构”（Modified Harvard Architecture）。
宏观层面（由于成本和灵活性）：冯·诺依曼占主导
统一的内存（RAM）： 16GB 或 32GB 内存条里，既存放着正在运行的软件代码（指令），也存放着你正在编辑的文档（数据）。
统一的存储（硬盘）： ...
【CUDA】（零）前置知识
（零）CUDA前置知识
本人研究生阶段方向为高性能计算，做的是国内超算的调优与建模，且大多兼容CUDA生态，因此理解CUDA的相关思想是十分重要的，这也萌生了这个学习笔记，主要希望通过记录的方式督促自己完成CUDA的相关学习。学习笔记主要参照书籍《CUDA C编程权威指南》以及相关网络资源。
借鉴的示例源代码如下：
https://github.com/lugengyou/cuda_program
由于采用了sm_120架构，部分代码需要更新，本笔记的代码仓库如下
https://github.com/Earnshawnlpl/Cuda_program_code
本篇笔记参考内容如下：
https://blog.csdn.net/xue_csdn/article/details/105297919?ops_request_misc=&request_id=&biz_id=102&utm_term=cuda基础知识介绍&utm_medium=distribute.pc_search_result.none-task-blog-2~all~sobaiduw ...
Top500超算近十年统计数据
近10年超算架构分析
本文以近十年（2016—2025 年）TOP500 与 Green500 的公开榜单和系统说明为基础进行分析，由于top500和green500每年评定两次，为简化分析，本文仅采用2016-2025年6月的数据进行分析
TOP 500
2025.6
Rank
System
Cores
Rmax (PFlop/s)
Rpeak (PFlop/s)
Power (kW)
1
El Capitan - HPE Cray EX255a, AMD 4th Gen EPYC 24C 1.8GHz, AMD Instinct MI300A, Slingshot-11, TOSS, HPE DOE/NNSA/LLNL United States
11,039,616
1,742.00
2,746.38
29,581
2
Frontier - HPE Cray EX235a, AMD Optimized 3rd Generation EPYC 64C 2GHz, AMD Instinct MI250X, Slingshot-11, HPE Cray OS, ...
【入门】本地部署DeepSeek
【入门】本地部署DeepSeek
引言
2024年12月26日，杭州六小龙之一的 DeepSeek 公司 发布了 DeepSeek-V3 模型，这一消息在 AI 行业掀起了前所未有的震动，甚至可能对全球 AI 产业格局产生颠覆性影响。作为一名计算机专业的学生，我深感震撼，而游戏科学的 CEO 冯骥 更是评价其为**“可能是国运级别的科技成果”。DeepSeek-V3 的发布，直接撼动了 AI 领域的“霸主”——英伟达，导致其股价在短短几天内暴跌 17%，这一跌幅可谓是AI 时代的“黑天鹅事件”。一家仅有 百余人的中国 AI 公司，竟然能让全球芯片巨头遭受如此重创，这在科技史上极为罕见！就在几个月前，我国政府宣布对英伟达进行制裁**，试图削弱其在 AI 计算领域的主导地位。然而，英伟达 CEO 黄仁勋并未示弱，反而选择强硬对抗中国政府，因为他们拥有足够的“底气”——硬件（GPU）+ 软件（CUDA）深度绑定，打造了一条几乎不可逾越的技术护城河。在 DeepSeek-V3 发布前夕，黄仁勋仍在中国各地访问，包括 北京、上海、深圳、台湾 等核心地区，意气风发地侃侃而谈，丝毫不觉危机临 ...
