• 首页
  • API Hub
  • 帮助
  • 价格
  • 交流群
  • 私有化部署
免费使用 Apifox

# 延迟

GPT-6 Sol 延迟实测:首 token 要等 102 秒
GPT-6 Sol 延迟实测:首 token 要等 102 秒
换用更便宜的模型后账单好看了,但 p95 响应时间突破两分钟,网关开始返回超时。本文拆解 102 秒首 token 的测量口径,并给出四项让长推理模型不拖垮接口的设计改动。

节省研发团队的每一分钟

产品

产品更新日志 IDEA 插件 帮助中心 快速上手 私有化部署 Blog

关于

FAQ 联系我们 加入我们 成为合作伙伴

资源

接口 (API) 文档工具 接口 (API) 文档管理工具 接口 (API) 自动化测试工具 接口 (API) Mock 工具
©2024 Apifox All Rights Reserved 广州睿狐科技有限公司 粤 ICP 备 2021010720 号