资讯

书生开源科学感知投影器,不练新模型,给现成大模型接上晶体和序列数据

2026-11-075 分钟阅读热点
TL;DR你手里有一个晶体结构,或者一段 RNA 序列,想让大模型帮着判断点什么。

你手里有一个晶体结构,或者一段 RNA 序列,想让大模型帮着判断点什么。怎么喂?把一堆原子坐标当文字糊进提示词,还是老老实实去训一个专用的科学模型?

11 月 6 日,书生 InternLM 在 Hugging Face 上放出了 Sage-SciPerception(中文名“书生·元征”),给了第三条路。我们 AI主线 的看法是:Sage-SciPerception 不是一个新模型,而是一套给语言模型配的“转接头”,让冻结的语言模型通过一个很小的投影器去读晶体、生物序列和生理信号,它值钱的地方是这套接口思路,而不是榜单上的分数。

转接头到底是个什么东西?

先说它怎么干活。科学数据先交给现成的科学编码器抽成特征,再过一个按任务单独训练的投影器,变成语言模型能认的向量,塞进提示词的嵌入里,最后由语言模型用自然语言把答案写出来。

打个比方:你有一台只懂中文的翻译机,想让它听海豚叫。翻译机本身一个螺丝都不动,你只给它配一副能把海豚叫声转成中文音节的耳机。Sage-SciPerception 里的“耳机”就是投影器。训练这一步,科学编码器和语言模型都是冻住的,只有投影器在学。

这副耳机有多小?页面给了个能在 CPU 上验证的例子:晶体形成能这一项的投影器,参数量是 4314304,约 431 万,输出维度 4096。它的输入是 CHGNet 0.3.0 给出的每个原子的状态向量,形状是“原子数 × 64”。

官方示例里的目录名写的是 glm-5.3-flash,对得上智谱 8 月 26 日放出的 GLM-5.3-Flash:总参数 3200 亿,每个 token 激活 180 亿,开放权重,MIT 协议。431 万对 3200 亿,投影器还不到底座总参数的七万分之一。这么点东西能把科学数据接进一个大模型,这个杠杆比我预想的还要夸张。

跟书生自家的 Intern-S1-Pro 比,路线差在哪?

书生这条线上其实早有科学大模型。Intern-S1-Pro 在今年 2 月 4 日开源,是一个 1 万亿参数的 MoE,512 个专家,每次推理激活 8 个,合 220 亿参数,论文说它掌握了 100 多个专业科学任务。思路是在训练阶段就把科学模态整个吃进模型里。

Sage-SciPerception 正好反过来:模型不动,接口外挂。这跟视觉语言模型给大模型接图像编码器的套路是一个路数,只不过这回接的是晶体、光谱和心电。

好处很明显,不用为了科学能力重训一个庞然大物,每个任务的投影器可以单独练、单独换。代价也写在页面上了:每个 checkpoint 的 config.json 里记着配套的语言模型,本地的模型目录必须跟记录的版本对得上,页面还说投影器是按“模态、任务、语言模型版本”来组织的。按这套设计,底座一升级,投影器就得跟着重做。(这笔账会一直挂着,底座迭代越勤,越累。)

九个分数,能信几分?

页面列了九个任务,覆盖材料、蛋白、分子、心电、睡眠分期、剪接位点和 RNA 家族分类。比如 BEACON ncRNA 的 RNA 家族分类准确率是 97.35%,ATOM3D 蛋白结构排序的 Spearman 是 35.36%,QM9S 分子结构识别的 Acc@1 是 49.75%。

看着一个高一个低,但这么比没意义。页面自己写明了,各行指标不同,别横着比。还有个坑:晶体形成能那一行的 15.03 是 MAD/MAE 的比值,越高越好,跟我们习惯的“误差越小越好”正好反着来,读的时候别看岔了。

更关键的是,表里没有任何对照:没有专用模型的成绩,没有 Intern-S1-Pro 的成绩,也没有换个底座的成绩。分数全部来自自家用各任务选定的 checkpoint 生成答案后的评测,暂时没有第三方复现。所以这张表回答的是“能不能接通”,没回答“比现有方案强多少”。跑分党先别急着开香槟。

谁现在该去碰它?

门槛不低。推理要起一个带 --enable-prompt-embeds 的 vLLM 服务,通过 /v1/completions 吃嵌入向量,官方示例是八卡张量并行,本地还得备好版本对得上的底座模型。科学特征提取和投影在客户端做,编码器权重和预处理脚本是另外的依赖,DNA、MPBind 和 ncRNA 用到的任务适配科学模型这次也没有一起放出。简单说,东西是半套,另一半得自己配。

所以写代码的、做内容的兄弟们,这条新闻跟你们日常基本没关系。有点关系的是搞材料、生信、生理信号的研究组,手里本来就有 vLLM 集群,想试试“让通用大模型直接读科学数据”,这算是个现成的起点。

我自己的感觉是,这个项目现在更像一份“接口说明书”,而不是成品。我们 AI主线 接下来盯三件事:有没有第二个底座的投影器出现,有没有人补上专用模型的对照成绩,缺的那几个编码器什么时候补齐。这三件有一件落地,这套转接头才算真站住了。