资讯

多步成功率Multi-step Succ Rate是什么?

2026-11-044 分钟阅读百科
TL;DRMulti-step Succ Rate(多步任务成功率)是评测 AI Agent 的一个指标,指在需要连续做好几步才能完成的任务里,Agent 把每个子步骤都做对、最终达成目标的任务,占全部测试任务的比例。

Multi-step Succ Rate(多步任务成功率)是评测 AI Agent 的一个指标,指在需要连续做好几步才能完成的任务里,Agent 把每个子步骤都做对、最终达成目标的任务,占全部测试任务的比例。可以把它想成一款没有存档点的闯关游戏:中间任何一关翻车都得从头来过,最后算的是通关的人占多少,而不是平均每关过了几成。

它到底在数什么

分母是测试任务的总数,分子是“所有子任务都执行成功、最终目标也达成”的任务数,只差一步就算失败。这是它和普通单步准确率最大的不同:单步准确率看的是一道道题,它看的是整条链路全对才算成。

不同基准对“成功”的判法并不一样。复旦大学团队做的 RISK-Bench 是电商风控场景的 GUI Agent 基准,规定一条操作轨迹里所有工具调用都正确,才算这条轨迹成功。LiveMCP-101 面向调用 MCP 工具的 Agent,用 GPT-4.1 当评委,把 1 到 5 分的评分映射成 0 到 1,只有拿到满分 1.00 的任务才计入成功。

为什么步数一多就难过关

原因是乘法。假设每一步相互独立、成功率都是 95%,10 步连起来只剩约 60%,20 步只剩约 36%;就算每步提到 97.5%,20 步也只有约 60%。每一步看起来都靠谱,连起来就不够看了,这也是评测 Agent 时不能只盯单步准确率的原因。

当然,真实任务里步骤不一定独立,Agent 也可能在中途发现错误并纠正,所以这个乘法只是粗估,用来建立直觉就够了。RISK-R1-7B 在 RISK-Bench 上的单步总体准确率是 88.3%,多步成功率是 82.8%,两个数放在一起看,才算把它的表现说完整。

从哪来的,现在在哪用

这个叫法不属于某一篇论文,是 Agent 评测里一类指标的通用名字。它的底子是任务成功率(Success Rate,有的论文叫 TGC 或 VRR),一个任务只有成败两种结果;放到多步任务上,就成了“整条链路全对才算成”。有的基准另辟蹊径,比如 Mind2Web 用 Step SR 数中间步骤做对的比例,要求同时选对网页元素、执行对动作;ALFWorld 这类家务任务则直接用整体任务成功率。

2024 年的 AgentQuest(arXiv 2404.06411)指出,很多基准只给成败二元结果,看不出 Agent 是完全不会,还是做到一半掉了链子,于是加入了进度率和重复率。它的实验里,数独任务的成功率很低,进度率也很低,说明 Agent 确实没入门。2025 年 8 月发布的 LiveMCP-101 有 101 个需要多种 MCP 工具协同完成的任务,GPT-5 的总体任务成功率是 58.42%,在难题上是 39.02%。

容易混的地方

第一个容易混的是它和 Step SR。前者看整条链路,后者看单个步骤,一个 Agent 步骤分很高、任务分却很低,完全可能。第二个是“完成”和“成功”:流程跑完不等于结果正确,成功要对照事先定义好的结果来判。第三个是榜单数字不能直接互比,任务有几步、谁来判、满分才算还是过线就算,都会让数字差很多,LiveMCP-101 的 58.42% 和 RISK-Bench 的 82.8% 说的就不是一回事。

对使用者的影响很具体。写提示词或搭工作流时,能拆成短链就别串成长链,关键节点加检查,让每一步的成功率尽量高;选模型时,先看榜单怎么定义成功、任务有多少步;控成本时,别忘了整条链路失败往往要整体重跑,token 要花两遍。我们 AI主线 的建议是,看到多步成功率别只记一个百分比,把判定规则和任务步数一起记下来。

相关话题与公司