嫁接 Grafting 是什么？低成本改造预训练扩散模型的架构

嫁接（Grafting）是一种低成本改造预训练扩散 Transformer 架构的方法，由斯坦福大学等团队在 2025 年提出，论文标题是《通过嫁接探索扩散 Transformer 的设计》。名字借用了园艺里的“嫁接”：把一种植物的枝条接到另一种植物上，不用从种子开始重新种。

要解决的问题

设计新的模型架构，比如把注意力换成更高效的线性注意力，或者改变网络的宽度和深度，通常需要从头训练才能知道效果如何。对于扩散 Transformer 这样的大型生成模型，从头训练一次的代价非常高，研究者很难大量尝试不同的设计。能不能利用已经训练好的模型，低成本地试验新的架构？

嫁接怎么做

嫁接的思路是：在一个预训练好的扩散 Transformer 里，把某些原有的组件（算子）替换成新的组件，比如把一部分自注意力层换成卷积或其他高效的注意力变体，然后用很少的计算让新组件“长好”。具体分两步：

第一步，激活蒸馏：对每一个被替换的位置，让新算子学习模仿原算子的功能。做法是用回归目标，让新算子在相同输入下产生的激活值尽量接近原算子的激活值。这一步可以对每个位置单独进行，计算成本很低。

第二步，轻量级微调：当多个新算子同时接入模型后，各自的小误差可能会逐层累积和传播，影响整体效果。所以再用有限的数据对整个模型做端到端的微调，缓解这种误差传播。

效果和意义

论文报告，用嫁接得到的各种混合架构，只用原始预训练计算量的很小一部分，就能达到和原模型相当的生成质量；研究者还用这种方法把模型的深度结构做了重组，获得了推理加速。嫁接为研究新架构提供了一条低成本的路径：先在现有的大模型上嫁接试验，确认某种设计有潜力后，再考虑投入大量算力从头训练，这让更多资源有限的研究者也能参与到大模型架构的探索中来。