星辰Xing4.0开源两个月后，llama.cpp才给它补上入场券

有没有发现一个规律，一个大模型刚放出来的时候，vLLM和SGLang总是冲在最前面，llama.cpp反而经常是最后一个跟上的。

11月5日，llama.cpp合并了对中国电信星辰系列Xing4.0-29B-A4B的原生支持，对应版本号b12156，PR编号31589。我的判断是，这事本身算不上大新闻，但它把一个被晾了快两个月的开源模型，重新拉回到普通玩家一张消费级显卡就能摸到的范围里。

先说这模型是个啥

Xing4.0-29B-A4B是中国电信旗下星辰系列的新一代产品，前身是TeleChat，9月17日以Apache-2.0协议在Hugging Face和GitHub同步开源。总参数29B，但每次推理只激活4B，典型的MoE稀疏结构，说白了就是把29B参数拆成64个专家，每次只喊醒4个干活，剩下的歇着，推理成本自然比同等体量的稠密模型低不少。它原生支持256K上下文，官方说可以扩展到512K，长文档和长代码库丢进去问题不大。

这模型还有个卖点，从训练芯片到框架一条链路都是国产的。官方说是用昇腾910C集群配MindSpore/MindFormers训练出来的，训练吞吐比默认配置提升了将近96%。这个数字是中国电信自己报的，没查到第三方复测，当个厂商自述就行，别当成板上钉钉的结论。

两个月才等到llama.cpp，慢在哪

模型9月17号就开源了，vLLM和SGLang那会儿就能靠官方插件跑起来，但走的是插件路线，不是合进主干。真要进llama.cpp主干，意味着Ollama、LM Studio这类更面向普通用户的工具链，以后理论上也能顺着吃到这个架构。

慢在哪，这次的合并记录里写得挺直白：这是个要同时兼容CPU、CUDA、Metal多后端的大改动，光是反复改同一个文件就折腾了六七轮，中间还夹了文件改名、代码规范修复、给Metal后端补融合算子基线测试这种琐碎活。一个新架构要让主流推理框架都认，这种拖沓不算稀奇，真正耗时间的往往就是这些边边角角。

打Qwen和Gemma，站哪一档

按官方模型卡放出的跑分，Xing4.0-29B-A4B被拿去跟同级别MoE模型Qwen3.6-35B-A3B、Gemma4-26B-A4B对比。代码和Agent相关的几项它占优：SWE-bench Verified拿到75分，比Gemma4-26B-A4B的53分高出一大截，Terminal-Bench 2.1上57.5分，也明显甩开另外两家。但推理类测试上它不占便宜，AIME2026只有90分，比Qwen3.6-35B-A3B的92.7分低了点，数学题这块没赢。

第三方那边，国内评测机构SuperCLUE给它的智能体能力打了93.52分，排在国内第三，跟前两名的Qwen系列差距不到1分。这组数据不是厂商自己报的，算是能当一个参考点，说明官方跑分不是纯自嗨。

普通玩家现在能干嘛

按中国电信官方说法，4-bit量化之后显存需求能压到大约15GB，一张RTX 3090或4090就能带得动长上下文任务，这对自己在家折腾本地模型的人是个真香消息。社区里已经有好几家做了GGUF量化，从十几GB到压缩到十GB出头的版本都有，llama.cpp这次把支持合进主干，等于把这条路彻底铺平，不用再死守某个分支现编译。官方这次还专门对OpenCode、Claude Code、OpenClaw、Hermes这些Agent框架做了适配调优，冲着写代码、搞自动化的那批人去的意图很明显。

我们AI主线的看法是，这条新闻本身不大，但它提醒大伙一件事，一个模型开不开源只是第一步，能不能顺畅地跑在自己的显卡上，往往要看这些底层推理框架愿不愿意接、接得快不快。接下来就看Ollama和LM Studio什么时候把这个架构收进官方模型库，到那时候，Xing4.0才算真正进了普通人的工具箱。