NVIDIA 称 Vera 每瓦多养六成智能体,x86 要慌了吗
agent 干活的时候,GPU 负责想,CPU 负责动手:搜网页、查数据库、跑测试、起沙盒。想得再快,手慢了,整条链路照样卡。
11 月 5 日,NVIDIA 在官方博客放出 Vera CPU 的新一批对比数据。官方说,在 100 兆瓦数据中心的假设下,一颗 Vera 每瓦能承载的智能体数量是最快 x86 的 1.6 倍,对上最省电的 x86,agent 速度快 2 倍。
我们 AI主线 的判断是:NVIDIA 的 Vera CPU 瞄准了“每瓦能同时养多少个智能体”这个靶心,方向没跑偏,数据也亮眼,但它赢过 x86 的结论,目前主要来自 NVIDIA 和早期合作方自己的测试。
CPU 怎么就从配角混成了主角
以前 NVIDIA 的 CPU 是 GPU 旁边的搭子,Grace 就是这个定位,用的还是 Arm 授权的 Neoverse V2 核心。Vera 是 NVIDIA 首款自己设计核心的数据中心 CPU,核心叫 Olympus,88 核,今年又开始单独卖,不用非得捆着 GPU 一起买。
这步棋我读成“补课加扩张”:agent 越多,机架里 CPU 的活越重,这块预算 NVIDIA 不想留给别人。
规格上有两处值得掰开说。一是每核两个线程,一共 176 线程。传统超线程是两个线程轮流用同一套资源,NVIDIA 说它的做法是把核心资源物理切开,各用各的,少抢食。二是内存,按官方公布的规格,最多 1.5TB 的 LPDDR5X,聚合带宽 1.2TB/s。后厨里灶台多不算本事,每个灶台都有人及时送菜才算。agent 的活全是零碎小任务,卡脖子的常常是数据喂不喂得上。
核数上 x86 还是占着便宜。AMD 的 Turin 最多 192 核,7 月发布的 Venice 做到了 256 核。所以标题里那个“最高吞吐”,得带着“跑 agent 负载、电力有上限”这两个前提去看。
六个合作方的数据,哪条最能说明问题
我觉得是 Daytona 那条。沙盒就是给 agent 隔离跑代码的小房间,拉起 1000 个,Vera 用了 10.8 秒,x86 用了 88.4 秒,差了八倍多。这恰好是 agent 平台每天都在干的活,比任何抽象跑分都直观。
Modal 说每核沙盒吞吐最多到 2 倍,负载越重差距越拉得开。DeepInfra 的路数更扎实:7 月自己发过一份测试,拿生产环境的 agent 流量对比 AMD 和 Intel 共三款 CPU,编排速度最高 2.2 倍,测试方法也写得比较细。
ClickHouse 还提了一句,标准二进制不做任何 Vera 专门调优,就能近线性扩展。这对 Arm 服务器生态是个好信号,意味着软件不用大改。
不过这几家都是拿到 Vera 早期硬件的伙伴,Perplexity 也只是说计划在即将上线的生产系统里用。真刀真枪上线后的数字,才是后面要看的。
独立评测里,少的是哪一块
Phoronix 今年 5 月做过一轮首测,几何平均比 AMD EPYC 9575F 高约 10%,比 Intel Xeon 6980P 高约 55%。成绩漂亮,但测试范围是 NVIDIA 划的,用的是预生产硅片,功耗也没能测。
这次博客补的恰恰是功耗这块:每瓦 1.6 倍。问题在于,100 兆瓦的对比是 NVIDIA 自己搭的模型,对手 x86 具体是哪几颗没点名,也没说有没有把 Venice 算进去。跑分党肯定想看第三方在同一功耗预算下的实测,我们 AI主线 也在等这个。
跟咱们这些天天用 agent 的人有啥关系
Vera 是数据中心产品,咱们不会自己去买。NVIDIA 官方博客说,首批系统已经交到 Anthropic、OpenAI、SpaceXAI 和 Oracle 云手里,戴尔、HPE、联想、超微也在做标准服务器。
它能不能变成更快更便宜的 agent 服务,得看云厂商和沙盒平台怎么定价,这事现在没法下结论。能确定的是,Arm 服务器 CPU 有了一个能打的玩家,x86 那边也没闲着,Venice 都上 2nm 了,CPU 这条赛道是真的开始卷了。
接下来我盯两件事:一是有没有人在同一功耗下拿 Vera 对 Venice 跑一轮实测,二是 Perplexity 说的生产系统上线后,这些倍数还能剩几成。