CudaForge 是什么？两个 AI 配合优化 GPU 内核代码

CudaForge 是一个用 AI 智能体自动编写和优化 CUDA 内核的工作流，由明尼苏达大学的研究人员在 2025 年 10 月提出，论文标题是《CudaForge：带硬件反馈的 CUDA 内核优化智能体框架》。CUDA 内核是在英伟达 GPU 上执行的底层计算代码，大模型训练和推理的速度，很大程度上取决于这些内核写得好不好。

为什么需要它

随着大模型训练规模越来越大，高效的 CUDA 内核变得越来越关键。但手工设计内核既昂贵又耗时，需要同时精通算法和 GPU 硬件架构的专家，这样的人才非常稀缺。因此，研究者开始尝试用大模型自动生成内核代码。论文指出，现有的自动生成方法常常产出效率不高的内核，计算开销大，而且很难泛化到不同的硬件和设置上。

模仿人类专家的工作方式

CudaForge 的设计灵感来自人类专家优化内核的迭代流程：先写出一个初始版本，测试它是否正确，用性能分析工具查看在硬件上的表现，找到瓶颈，再改进，如此反复。

它采用两个大语言模型智能体分工合作。编写者（Coder）负责生成和修改 CUDA 内核代码；评审者（Judge）负责检查正确性，并结合硬件反馈，比如性能分析工具报告的内存带宽利用率、计算单元占用率等指标，分析问题所在、给出具体的优化建议。两者迭代地生成、纠错和优化内核。整个工作流不需要训练模型，可以直接使用现有的大模型。

意义

论文报告，CudaForge 生成的内核在正确率和运行速度上都优于已有的方法，同时所需的 API 调用成本和时间都较低，并且能适应不同的 GPU 型号和基础模型。它展示了让 AI 智能体参与底层性能优化的可能：未来，AI 或许能帮助优化运行 AI 自身的代码。