Claude Haiku 5.5 基准成绩解读:谁跑的、哪一项不能直比

Haiku 5.5 在 OSWorld 2.1 得 72.4%、GDPval-AA v2.1 得 1620、FrontierCode 1.1 得 46.4%。这些是 max effort 数字,默认 medium 档 GDPval-AA 降到 1277。本文说明各项基准的执行方与不可直接比较的坑。

用 Apifox,节省研发团队的每一分钟

Claude Haiku 5.5 基准成绩解读:谁跑的、哪一项不能直比

免费使用 Apifox

相关推荐

最新文章

API

一体化协作平台

API 设计

API 文档

API 调试

自动化测试

API Mock

API Hub

立即体验 Apifox
目录

Claude Haiku 5.5 在 OSWorld 2.1 上得分 72.4%,在 GDPval-AA v2.1 上为 1620,在 FrontierCode 1.1 上为 46.4%,在 Terminal-Bench 4.0 上为 39.2%。Haiku 4.5 在其中三项上分别得分 15.7%、735 和 0.0%。以上都是 max 档位的数字;在默认的 medium 档位下,GDPval-AA 降至 1277。目前还没有独立实验室公布 Haiku 5.5 的结果。

下文涵盖:Claude Haiku 5.5 的每一项基准测试、由谁运行、effort 如何影响得分与成本,以及如何在 Apifox 中用你自己的流量测试该模型。如需了解规格与定价,请先阅读什么是 Claude Haiku 5.5。

AI Coding 交流群

如果你也在用 AI 写代码,或者正在研究 Cursor、Claude Code 这些工具,欢迎加入以下交流群。群里平时会聊一些 AI 编程的实际用法、开发工作流,还有各种新工具和新玩法。

首发表格

Haiku 5.5 的每个单元格都使用 max 档位的自适应思考,通常取五次试验的平均值(Terminal-Bench 每个任务用十次)。“n/r”表示未公布结果。

基准测试 Haiku 5.5 Haiku 4.5 GPT-6 Luna Sonnet 5.5
GDPval-AA v2.1(Elo 基准) 1620 735 1437 1840
AA-Briefcase v1.1(Elo 基准) 1578 614 1336 1824
OSWorld 2.1,离线子集 72.4% 15.7% 48.9% 83.9%
Humanity’s Last Exam,无工具 45.9% 10.2% n/r(无结果) 56.9%
Humanity’s Last Exam,含工具 57.4% 18.7% n/r(无结果) 64.5%
Terminal-Bench 4.0(基准) 39.2% 0.0% 16.4% 70.6%
FrontierCode 1.1(Main 基准) 46.4% n/r(无结果) 42.4% 52.1%(xhigh 档位)
Chartography,无工具 46.4% 6.4% 29.1% 61.6%

每项基准测试由谁运行

大多数测试由 Anthropic 自己运行。跨厂商的行只共享基准测试名称,测试框架或 effort 设置未必相同。

基准测试 由谁运行 条件
GDPval-AA v2.1 与 AA-Briefcase v1.1 Artificial Analysis,独立运行 GDPval-AA:220 个任务、44 个职业,Elo 以 DeepSeek V4.1 Flash(max)的 1600 分为锚点;Briefcase:历时数周的项目
FrontierCode 1.1(基准) Cognition 公司 Claude 在 Claude Code 中,GPT 在 Codex 中;Main = 150 个任务中最难的 100 个
Chartography(基准) Anthropic,基于 Surge AI 的基准测试 由 Gemini 3.5 Flash 评分;Luna 的分数来自 Surge AI
Terminal-Bench 4.0(基准) Anthropic 自测 在 Claude Code --bare 中,66 个任务,每个 10 次试验,开启防护措施
OSWorld 2.1(基准) Anthropic 自测 108 个任务中的 82 个,1080p,最多 500 步
Humanity’s Last Exam(基准) Anthropic 自测 980K token 的任务预算,由 Opus 4.6 评分

GPT-6 Luna 有两个单元格需要说明。Anthropic 通过 OpenAI 的 API 在同样的 82 个任务上运行了 Luna 的 OSWorld 得分。Luna 的 Terminal-Bench 16.4% 来自公开排行榜(Codex CLI,max 档位)。在 Terminal-Bench 上,防护措施中止了 1.8% 的 Haiku 5.5 试验(660 次中的 12 次),每次均计为失败。

FrontierCode 的陷阱

首发表格把 max 档位的 Haiku 5.5(46.4%)与 xhigh 档位的 Sonnet 5.5(52.1%,Sonnet 的最佳成绩)并列。系统卡给出了同口径对比的数字:

FrontierCode 1.1(基准) Main(主项) Extended(扩展项)
Haiku 5.5,max 档位 46.4% 58.4%
Haiku 5.5,xhigh 档位 45.8% n/r(无结果)
Sonnet 5.5,max 档位 46.2% 59.1%
Sonnet 5.5,xhigh 档位 52.1% 64.4%

在 max 档位下,Haiku 5.5 在 Main 上以 46.4% 对 46.2% 略胜 Sonnet 5.5。在各自的最佳设置下,Sonnet 领先 5.7 分。引用任一数字时,请说明你指的是哪个 effort 档位。

系统卡补充数据

系统卡补充了首发博文略过的行。除特别说明外,均为 max 档位。

基准测试 Haiku 5.5 Haiku 4.5 Sonnet 5.5
SWE-Bench Pro(基准) 64.8 n/r(无结果) 81.3
SWE-bench Multilingual(基准) 83.7 67.4 90.3
SWE-bench Multimodal(基准) 30.7 19.8 54.3
OSWorld 2.1,严格通过率 37.1% n/r(无结果) 48.8%
Chartography,含工具 86.2% 8.8% 90.2%
OfficeQA / OfficeQA Pro(基准) 73.5% / 60.3% 63.0% / 47.1% 76.9% / 65.6%
HealthBench Professional(长度调整后) 64.8% 32.2% 69.2%

OSWorld 的 72.4% 是部分得分;只有 37.1% 的任务完全通过。Chartography 加上工具后几乎翻倍(从 46.4% 到 86.2%),所以做图表类工作时请给 Haiku 5.5 配备工具。

默认 effort 得分更低

Haiku 5.5 在 Claude API 和 Claude Code 中默认使用 medium 档位。系统卡给出了以下默认 effort 的结果:

基准测试 Medium(默认) Max 档位 说明
GDPval-AA v2.1(基准) 1277 1620 Medium 使用的输出 token 约为 max 的十分之一
AA-Briefcase v1.1(基准) 1372 1578 Medium 使用的输出 token 不到 max 的四分之一
HealthBench Professional(基准) 59.9% 64.8% Low 档 57.9%,High 档 61.3%

调用 API 时不传 output_config.effort,就会得到左侧一列的分数。effort 文档覆盖了全部五个档位。

各 effort 档位的得分与成本

数据来自首发图表,格式为得分(成本)。OSWorld 和 Terminal-Bench 的成本按每次尝试计;GDPval-AA 按每个任务计。

模型 Low 档 Medium 档 High 档 Xhigh 档 Max 档
OSWorld 2.1(基准)
Haiku 5.5 42.0% ($0.07) 53.3% ($0.13) 61.3% ($0.18) 67.6% ($0.28) 72.4% ($0.61)
Sonnet 5.5 57.9% ($0.68) 66.0% ($0.93) 73.2% ($1.38) 81.1% ($2.22) 83.9% ($5.73)
GPT-6 Luna 19.2% ($0.04) 37.5% ($0.13) 42.3% ($0.14) 44.8% ($0.17) 48.9% ($0.21)
GDPval-AA v2.1(基准)
Haiku 5.5 1125 ($0.012) 1277 ($0.030) 1420 ($0.089) 1513 ($0.27) 1620 ($0.87)
Sonnet 5.5 1179 ($0.22) 1324 ($0.27) 1551 ($0.62) 1731 ($1.88) 1840 ($6.78)
GPT-6 Luna 1036 ($0.004) 1262 ($0.02) 1344 ($0.03) 1364 ($0.05) 1437 ($0.09)
Terminal-Bench 4.0(基准)
Haiku 5.5 12.7% ($0.42) 20.3% ($0.68) 24.8% ($1.04) 31.5% ($1.75) 39.2% ($2.64)
Sonnet 5.5 20.0% ($0.62) 28.8% ($0.68) 43.0% ($1.46) 61.5% ($4.34) 70.6% ($10.44)
  • max 档位贵在最后一步。在 GDPval-AA 上,max 的成本约为 medium 的 28 倍,只换来多 343 分 Elo。在 OSWorld 上,max 的成本是 xhigh 的两倍多,只换来 4.8 分。
  • OSWorld 上,medium 档位的 Haiku 5.5 胜过 max 档位的 Luna:53.3%($0.13)对 48.9%($0.21)。不过在其他所有同档位比较中 Luna 都更便宜;在 medium 档位,两者成本大致相同。参见 Haiku 5.5 vs GPT-6 Luna。
  • OSWorld 上,max 档位的 Haiku 5.5 胜过 medium 档位的 Sonnet 5.5(72.4%,$0.61,对 66.0%,$0.93)。
  • Terminal-Bench 是例外。high 档位的 Sonnet 5.5(43.0%,$1.46)以更低的成本胜过 max 档位的 Haiku 5.5(39.2%,$2.64)。Sonnet 的成本使用了新的 $0.10 缓存读取价格。

成本采用标价:提示不超过 100K token 时为每百万 token $0.10/$0.50,超过则更高(见定价明细)。

Haiku 5.5 仍然落后的地方

Sonnet 5.5 领先首发表格的每一行。Haiku 唯一在正面对比中取胜的是同为 max 档位的 FrontierCode。差距最大的是 Terminal-Bench 4.0:39.2% 对 70.6%。SWE-Bench Pro(64.8 对 81.3)和 SWE-bench Multimodal(30.7 对 54.3)呈现同样的规律。

Anthropic 也认同这一点:Sonnet 5.5 和 Opus 5.5“仍是复杂 agentic 编码任务的更好选择”。Haiku 5.5 适合范围明确的工作:压缩、摘要、分类、浏览器操作,以及作为更大模型下的子 agent。把它当作廉价子 agent 使用的内容见 Haiku 5.5 in Claude Code。

独立结果:尚无

截至 2026 年 10 月 8 日,还没有独立实验室公布 Haiku 5.5 的结果。Artificial Analysis 的 Haiku 5.5 页面返回 404,其排行榜只列出了 Claude 4.5 Haiku。Vals、LMArena、SWE-bench 和 Aider 也都没有显示任何结果。目前没有第三方速度数据;Anthropic 称 Haiku 5.5 是其“迄今最快的模型”(标准速度下),但比 Fast Mode 下的 Opus 慢。

最接近的外部数字来自 Cursor。其模型文档称 Haiku 5.5“在 max 档位下 CursorBench 得分为 48.4%”,高于 low 档位的 30.9%。关闭思考后,Cursor 报告在开启思考时得分为 30.9% 到 42.3% 的相同档位下,得分为 22.1% 到 26.2%。

客户反馈

以下内容来自 Anthropic 的首发博文,未经独立验证:

  • HubSpot 称:在其模拟 CRM 门户套件上三次运行的平均分为 92.8%,是该套件上见过的最高分。
  • AlphaSense 称:在 400 条 Ask in Document 查询上为 0.84,Haiku 4.5 为 0.76,其称这一差异具有统计显著性。
  • Box 称:在早期测试中,比 Haiku 4.5 高 11 分,延迟约为其一半。
  • Asana 称:任务完成延迟比其当前模型降低 30% 以上。
  • Cognition 称:Devin Fusion 以 Haiku 5.5 作为副手、Opus 5.5 作为主脑,FrontierCode 得分为 66.2。这是双模型系统,并非 Haiku 单独运行。

运行你自己的评估

基准测试与你的实际流量并不相同。Anthropic 的提示指南建议只在你的评估显示有收益的地方使用 xhigh 或 max,并在 Sonnet 5.5 上运行同样的评估以作对比。在 Apifox 中:

  1. 将 ANTHROPIC_API_KEY 存为环境变量,并把 20 到 50 条真实提示保存为 Messages 请求。
  2. 添加断言:状态码 200、stop_reason 不是 "max_tokens" 或 "refusal",以及正确答案所需的内容。
  3. 在 low、medium 和 high 档位下运行该集合。更改 effort 会使提示缓存失效。
  4. 记录通过率和 usage 中的 token 计数。新的分词器对相同文本产生的 token 比 Haiku 4.5 多约 30%。
  5. 复制该集合,替换为 claude-sonnet-5-5,在同一个项目中比较两个模型。
curl https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-haiku-5-5",
    "max_tokens": 8000,
    "thinking": {"type": "adaptive"},
    "output_config": {"effort": "medium"},
    "messages": [{"role": "user", "content": "Classify this support ticket as billing, bug or feature request: ..."}]
  }'

不要发送 temperature、top_p、top_k 或 assistant 预填充;在 Haiku 5.5 上每一个都会返回 400。按 type 选择响应块,因为 thinking 块可能排在最前。参见 API 指南和测试 LLM 应用。

常见问题

Claude Haiku 5.5 比 Sonnet 5.5 更好吗?按 Anthropic 的数字来看并非如此。Sonnet 5.5 领先首发表格的每一行;只有在两者都运行在 max 档位时,Haiku 才在 FrontierCode 上略胜一筹(46.4% 对 46.2%)。升级视角见 Haiku 5.5 vs Haiku 4.5。

Haiku 5.5 的 SWE-bench 得分是多少?SWE-Bench Pro 上为 64.8,SWE-bench Multilingual 上为 83.7,SWE-bench Multimodal 上为 30.7,均为 max 档位。

基准测试是在哪个 effort 档位运行的?max,通常取五次试验的平均值。API 默认是 medium,此时 GDPval-AA 得分为 1277 而非 1620。

有独立的 Haiku 5.5 基准测试吗?还没有。Artificial Analysis 独立运行了 GDPval-AA 和 AA-Briefcase,但这些分数是 Anthropic 公布的;AA 没有 Haiku 5.5 页面。

GPT-6 Luna 更便宜吗?通常是的。Luna 在 GDPval-AA 的每个 effort 档位和 OSWorld 的每个档位(medium 除外,两者成本大致相同)都更便宜。Haiku 5.5 在两者上的得分都更高。

HiFox :将 Agent 变成真正的队友

另外,我们也在思考,AI 如何从个人提效走进团队协作。

HiFox 是一个让人和 AI Agent 在同一个工作现场协作的平台:你可以像给同事分派任务一样指派 Agent,在任务看板中跟踪进度、查看结果,让 Agent 成为团队里的队友。

👉 立即体验 Hifox:https://hifox.com

AI Coding 交流群

如果你也在用 AI 写代码,或者正在研究 Cursor、Claude Code 这些工具,欢迎加入以下交流群。群里平时会聊一些 AI 编程的实际用法、开发工作流,还有各种新工具和新玩法。