Claude Sonnet 5.5 基准测试:官方数据、独立结果与真实含义

Claude Sonnet 5.5 基准测试:70.6% Terminal-Bench 4.0、81.3 SWE-Bench Pro、AA 指数 56。说明各项测试由谁执行、不同 effort 的成本,以及如何自行跑评测。

用 Apifox,节省研发团队的每一分钟

Claude Sonnet 5.5 基准测试:官方数据、独立结果与真实含义

免费使用 Apifox

相关推荐

最新文章

API

一体化协作平台

API 设计

API 文档

API 调试

自动化测试

API Mock

API Hub

立即体验 Apifox
目录

Claude Sonnet 5.5 在 Terminal-Bench 4.0 上得分 70.6%,在 CursorBench 4.0 上为 55.5%,在 max effort 的 FrontierCode 1.1 上为 46.2%(xhigh 下 52.1%),SWE-Bench Pro 为 81.3;相比之下 Sonnet 5 分别为 10.3%、34.1%、42.4% 和 63.2。Opus 5.5 在发布表格的大多数行上领先约 2 到 3 个百分点,但在 Terminal-Bench 上落后。Artificial Analysis 独立测得 Sonnet 5.5 在其智能指数上为 56,在 216 个中排第 3。

下面包括:完整的 Claude Sonnet 5.5 基准测试数据、由谁运行、effort 会带来什么变化,以及如何在 Apifox 中用你自己的流量测试该模型。规格请参见什么是 Claude Sonnet 5.5。

发布表格

Anthropic 的发布文章对比了四个模型(“n/r”代表空缺)。除非另有标注,Sonnet 5.5 的数据均为 max effort;API 默认为 high,Claude Code 和应用默认为 medium。

基准测试 Sonnet 5.5 Sonnet 5 Opus 5.5 GPT-6 Sol
Terminal-Bench 4.0 70.6% 10.3% 66.4%¹ n/r
FrontierCode 1.1(Main) 46.2% Max² / 52.1% Xhigh 42.4% 54.4% 49.3%
CursorBench 4.0 55.5% 34.1% 57.8% n/r
GDPval-AA v2.1³ 1844 1449 1846 1487⁴
AA-Briefcase v1.1³ 1811 1359 1822 1483⁴
Humanity’s Last Exam(带工具) 64.5% 54.9% 67.7% n/r
OSWorld 2.1(部分) 80.1% 57.0% 81.8% n/r
Chartography(无工具) 61.6% 15.6% 64.4% 53.6%⁴

脚注用平实的话说:

  1. Opus 5.5 的 Terminal-Bench 分数取自 xhigh,是它的最好成绩;在 max 下它得分 64.8%。
  2. FrontierCode 会对范围外的编辑扣分。在 max 下,Sonnet 5.5 更频繁地运行 Claude Code 的代码评审技能,展开大量子代理;在 Cognition 检查的两个案例中,这导致了超时或范围外编辑。
  3. Artificial Analysis 是在一个存在结构化输出 bug(现已修复)的预发布部署上运行这两项知识工作测试的。Anthropic 预计影响很小,如果有的话也是低估了 Sonnet 5.5。
  4. OpenAI 最近修复了 GPT-6 Sol 的图像理解 bug,AA 和 Surge AI 的分数可能没有反映这一修复。

每项基准测试由谁运行

除非指明了第三方,否则所有测试均由 Anthropic 自己运行。跨厂商的行共享的只是基准名称,而不是同一套评测框架或 effort 设置。

运行方 基准测试 条件
Anthropic Terminal-Bench 4.0、HLE、OSWorld 2.1 TB:Claude Code --bare,5 次试验,防护开启。HLE:搜索与代码执行。OSWorld:108 个任务
Cognition FrontierCode 1.1 Claude 在 Claude Code 中,GPT 在 Codex CLI 中
Cursor CursorBench 4.0 Cursor 的生产评测框架;Anthropic 按标价估算成本
Artificial Analysis GDPval-AA、AA-Briefcase 预发布部署
Anthropic Chartography Surge AI 的基准测试,用 Gemini 3.5 Flash 评分;Sol 的分数来自 Surge

回退影响了 Sonnet 5.5 Terminal-Bench 试验的 1.5%,但影响了 Opus 5.5 的 10%(系统卡§8.5),因此对 Sonnet 领先 4.2 个百分点的结论要谨慎看待。

系统卡补充内容

第 1 到第 6 行是系统卡中 max effort 的汇总。

基准测试 Sonnet 5.5 Sonnet 5 Opus 5.5
SWE-Bench Pro 81.3 63.2 89.9
SWE-Bench Multilingual 90.3 78.3 93.9
SWE-Bench Multimodal 54.3 28.1 61.4
HLE,无工具 56.9 43.1 64.4
HealthBench Professional 69.2 57.8 65.6
AutomationBench(Zapier 运行) 44.7 10.7 42.5
DeepSWE v1.1 71.0% n/r n/r
Terminal-Bench-Science 0.1 59.9% n/r 58.7%
FrontierSWE v2(Proximal 运行) 61.9% n/r 62.3%
ArXivMath(无工具 / 带工具) 86.8% / 95.2% n/r 91.2% / 96.9%
ProgramBench(长上下文) 79.7% 77.3% 91.2%
OSWorld 2.1,严格通过 43.5% 25.6% 48.7%
Toolathlon-Verified(Pass@1) 77.8% 74.7% 77.8%
OfficeQA / OfficeQA Pro 76.9% / 65.6% 75.1% / 62.1% 78.9% / 67.7%

Sonnet 5.5 在 HealthBench Professional、AutomationBench 和 Terminal-Bench-Science 上略胜 Opus 5.5;Opus 在 ProgramBench、SWE-Bench Pro 和无工具 HLE 上领先幅度最大。OSWorld 的 80.1% 头条数字是部分给分;只有 43.5% 的任务完全通过。

effort 会改变局面

发布图表,格式为分数(成本)。Terminal-Bench 的成本按每次尝试计,其他按每个任务计。两张图显示的是 GPT-5.6 Sol(*),因为 GPT-6 Sol 的数据未公布。

模型 Low Medium High Xhigh Max
Terminal-Bench 4.0
Sonnet 5.5 20.0% ($0.76) 28.8% ($0.83) 43.0% ($1.94) 61.5% ($5.30) 70.6% ($12.54)
Opus 5.5 38.5% ($1.29) 57.6% ($2.94) 64.2% ($3.88) 66.4% ($7.35) 64.8% ($11.24)
Sonnet 5 3.2% ($3.78) 4.4% ($4.83) 4.5% ($8.20) 7.0% ($9.95) 10.3% ($11.62)
GPT-5.6 Sol* 7.9% ($1.46) 20.9% ($2.69) 26.1% ($4.12) 28.5% ($5.39) 37.3% ($7.89)
FrontierCode 1.1 Main
Sonnet 5.5 29.3% ($0.19) 36.5% ($0.24) 49.4% ($0.42) 52.1% ($1.59) 46.2% ($20.78)
Opus 5.5 47.3% ($0.40) 54.6% ($0.80) 54.0% ($1.09) 51.4% ($2.25) 54.4% ($6.19)
Sonnet 5 28.7% ($2.39) 35.2% ($3.81) 39.4% ($6.10) 42.7% ($10.07) 42.4% ($17.12)
GPT-6 Sol 37.3% ($0.43) 45.9% ($0.77) 47.7% ($1.04) 48.4% ($1.32) 49.3% ($2.07)
CursorBench 4.0
Sonnet 5.5 35.8% ($0.50) 39.2% ($0.70) 47.8% ($1.67) 53.1% ($3.88) 55.5% ($9.67)
Opus 5.5 43.7% ($1.17) 52.5% ($2.91) 56.0% ($3.97) 56.0% ($6.98) 57.8% ($13.43)
Sonnet 5 24.1% ($1.39) 28.0% ($2.31) 30.8% ($3.48) 32.0% ($4.55) 34.1% ($7.17)
GPT-5.6 Sol* 24.6% ($0.87) 31.1% ($1.77) 35.7% ($2.85) 37.7% ($4.40) 41.7% ($8.23)
AA-Briefcase v1.1(Elo)
Sonnet 5.5 1264 ($0.87) 1461 ($1.64) 1634 ($3.95) 1746 ($9.63) 1811 ($29.19)
Opus 5.5 1285 ($1.15) 1642 ($4.40) 1705 ($6.27) 1780 ($12.27) 1822 ($21.05)
Sonnet 5 923 ($0.82) 1056 ($1.73) 1177 ($3.76) 1274 ($7.56) 1359 ($14.43)
GPT-6 Sol 905 ($0.12) 1142 ($0.34) 1289 ($0.63) 1364 ($1.19) 1483 ($2.67)
  • 大部分收益在 xhigh 就已出现。Max 在 Terminal-Bench 上多拿 9.1 个百分点,成本是 2.4 倍;在 CursorBench 上多 2.4 个百分点,成本是 2.5 倍。
  • FrontierCode 的 max 得分更低,成本却是 xhigh 的 13 倍(46.2%,$20.78 对 52.1%,$1.59)。
  • 更低 effort 的 Opus 5.5 才是真正的对手。在 Terminal-Bench 上,Opus 在 medium 下拿到 57.6%,花费 $2.94;Sonnet 在 high 下拿到 43.0%,花费 $1.94。Opus 在 high 下(64.2%,$3.88)胜过 Sonnet 在 xhigh 下(61.5%,$5.30)。参见 Sonnet 5.5 对比 Opus 5.5。
  • High 是 Sonnet 的成本甜蜜点。FrontierCode 在 high 下为 49.4%,花费 $0.42,与 GPT-6 Sol 的最好成绩(49.3%)持平,而成本约为其五分之一(价格明细)。

独立结果

Artificial Analysis 给 Sonnet 5.5 在 Intelligence Index v4.3.2 上打出 56 分,在 216 个中排第 3,仅落后于 max 和 xhigh 下的 Opus 5.5。Sonnet 5 得分为 38。运行该指数的成本:

Effort 指数得分 运行成本
max 55.98 $8,977
xhigh 51.85 $2,738
high 46.74 $1,176
medium 40.74 $701
low 35.84 $544

Max 的成本是 high 的 7.6 倍,只多 9.2 分。OfficeChai 对 AA 的解读认为 Sonnet 5.5 不在帕累托前沿上,在 high 下最具成本竞争力,并统计出 max 下每个指数任务约 193,000 个输出 token。

  • AA 自己的 Terminal-Bench 4.0 运行:63.6%,而 Anthropic 为 70.6%。
  • Sonnet 5 的低分是真实的:AA 测得 14.1%(见 Sonnet 5 基准测试)。
  • AA-Omniscience(据 OfficeChai):准确率 54%,幻觉率 47%,而 Opus 5.5 分别为 66% 和 59%。
  • 尚未测量:输出速度和首 token 时间,因此“快 30% 以上”仍只是 Anthropic 的说法。LMArena 上也还没有收录。

安全基准测试

提示词注入,依据系统卡:

  • Gray Swan:在 k=1、10 和 15 时攻击成功率分别为 0.4%、2.7% 和 3.4%(Sonnet 5:0.7%、5.1%、6.7%)。GUI 计算机使用最弱,为 12.5%(k=15)。
  • Shade,编码:无防护时为 3.01%,主要经由 Sonnet 5 的网络安全回退;Sonnet 5.5 自身在 5,901 次请求中有 4 次被攻破。
  • 浏览器使用:110 个场景中没有一次攻击成功。

网络安全评测在关闭防护的情况下运行:CyScenarioBench 上为 46.1%(Sonnet 5:0.7%,Opus 5.5:67.6%)。它是首个带网络安全防护的 Sonnet,Anthropic 警告称即使在良性的安全任务上拒绝也会增多。请参阅我们的提示词注入指南。

运行你自己的评测

基准测试并不像你的真实流量,而且 Anthropic 的提示词指南称 effort 已重新校准,因此不要沿用 Sonnet 5 的设置。在 Apifox 中:

  1. 把 ANTHROPIC_API_KEY 保存为环境变量,并把 20 到 50 条真实提示词保存为 Messages 请求。
  2. 断言状态码 200、stop_reason 不是 "max_tokens" 或 "refusal",以及内容包含正确答案所需的信息。
  3. 在 low、medium、high 和 xhigh 下各跑一遍;更改 effort 会使提示词缓存失效。
  4. 记录通过率和 usage 中的 token 数量,按每百万输入 $2、输出 $10 计价。
curl https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-sonnet-5-5",
    "max_tokens": 16000,
    "output_config": {"effort": "high"},
    "messages": [{"role": "user", "content": "Classify this support ticket: ..."}]
  }'

选择你能够接受的通过率所对应的最低 effort 档位。参见测试 LLM 应用和测试 AI Agent API。

常见问题

Sonnet 5.5 胜过 Opus 5.5 吗?在 Terminal-Bench 4.0、HealthBench Professional、AutomationBench、Terminal-Bench-Science 以及带工具的 Chartography 上,是的。其余项目 Opus 5.5 领先或持平。

Sonnet 5.5 的 SWE-Bench 分数是多少?在 max effort 下,SWE-Bench Pro 为 81.3,Multilingual 为 90.3。

为什么有两个 FrontierCode 数字?46.2% 是 max,52.1% 是 xhigh;max 的子代理展开招致了范围外扣分。

我应该从 Sonnet 5 升级吗?从基准测试看应该,但请先阅读 Sonnet 5.5 对比 Sonnet 5 中的破坏性 API 变更。

下一步

按 Anthropic 的建议从 high 开始(如果是描述明确的 agentic 编码任务可用 medium),并让你在 Apifox 中的评测决定再升一档是否值得。


HiFox:将 Agent 变成真正的队友

另外,我们也在思考,AI 如何从个人提效走进团队协作。

HiFox 是一个让人和 AI Agent 在同一个工作现场协作的平台:你可以像给同事分派任务一样指派 Agent,在任务看板中跟踪进度、查看结果,让 Agent 成为团队里的队友。

👉 立即体验 HiFox:https://hifox.com

AI Coding 交流群

如果你也在用 AI 写代码,或者正在研究 Cursor、Claude Code 这些工具,
欢迎加入以下交流群。群里平时会聊一些 AI 编程的实际用法、开发工作流,还有各种新工具和新玩法。

AI Coding 交流群