ChatGPT API 调试脚本 API 文档 GPT接口

起底 ChatGPT API 计费逻辑，2 步教你实时测算对话成本

Dolf

2023-09-11

当你正在调用 ChatGPT API 时，有没有想过它是如何进行计费的？通过官网查询得知，API 的计费策略采用按使用量付费，用多少扣多少。

但是问题来了，API 服务里的这个 “按量计费” 的 “量” 应该怎么算？

也许你会说，那还不简单，直接看它回答了多少字数呗！这话只对了一半。因为 ChatGPT 不仅会讲中文，它还可以根据使用者所发送的语言，回答出英语、法语、西语等多国语言，相同意思下每个语言的长度都会不一样，所以它会将这些内容统一换算为另一个标准单位——Tokens，然后再进行计费。

ChatGPT 不仅会统计自己输出了多少内容，还会记录用户输入了多少内容，毕竟它也需要先分析输入的文本才能输出有意义的回答，统一换算为 Tokens 值后汇总费用。以下是 ChatGPT API 的官方收费表，里面的 4K、8K 等数据代表单次问答中的最大上下文 Tokens 值。

如果你已经通过 ChatGPT API 成功地将 AI 能力嵌入至商业化产品中，比如说打造出了一个对客提供服务的智能客服，那么作为开发人员的你需要立刻、马上、清楚地知道每个客户的问答所产生的消耗额。因为公（Ling）司（Dao）需要知道最基础的成本才能制定出合理的运营策略。

总不能依靠实时监控 OpenAI 的账号后台来查看所消耗的成本吧？（更何况它还有五分钟的延迟）

那怎样才能在使用 Apifox 调用 API 的过程中就直接看到输入和输出的人民币成本呢？通过以下 2 步就能够清楚地看到人民币花费：

1.计算输入/输出 Tokens 值
2.基于实时汇率换算人民币成本

计算输入 / 输出 Tokens

创建换算脚本

将内容准确换算为 Tokens 需要引用第三方 Token 换算库。下面将以 OpenAI GPT Token Counter 库为例，使得能够在调试接口的过程中将输入/输出数据换算为 Tokens 数。

安装第三方库的运行环境。

npm install openai-gpt-token-counter

参考以下示例代码，新建名为 gpt-tokens-counter.js 的 Node.js 脚本：

const openaiTokenCounter = require('openai-gpt-token-counter');

const text = process.argv[2]; // 获取命令行参数中的测试内容
const model = "gpt-4"; // 替换为你想要使用的 OpenAI 模型

const tokenCount = openaiTokenCounter.text(text, model);
const characterCount = text.length; // 计算字符数

console.log(`${tokenCount}`);

将该脚本文件放置于 Apifox 的外部程序目录下以供调用：

换算 Tokens 输入值

输入值就是在询问 ChatGPT 时所填写的问题。你可以在 “聊天消息” API 文档的前置操作中添加一个自定义脚本，使得 Apifox 能够调用上文中写好的 Tokens 换算脚本，提取位于请求参数 Body 中的 content 参数后换算为 Tokens 值。

填写以下示例代码：

try {
  var jsonData = JSON.parse(pm.request.body.raw);
  var content = jsonData.messages[0].content; // 获取 content 中的信息
  var result_input_tokens_js = pm.execute('./gpt-tokens/gpt-tokens-counter.js',[content])
  console.log(content);
  pm.environment.set("RESULT_INPUT_TOKENS", result_input_tokens_js);
  console.log("Input Tokens count: " + pm.environment.get("RESULT_INPUT_TOKENS"));
} catch (e) {
    console.log(e);
}

点击 “运行” 按钮后可以在控制台中看到已统计的输入值。

换算 Tokens 输出值

接下来需要计算 ChatGPT 输出了多少个 Tokens。

ChatGPT 采用 SSE（Server-Sent Events，服务器推送事件）输出回答，好处在于可以实时显示问题的答案，当用户看到 GPT 正在说话也就更有耐心的等下去。这种方式不像普通的 API 是单次的请求和返回，而是建立连接后输出一个连续的时间线。

因此我们需要先拼接所有的输出内容，然后再进行 Tokens 换算。

在后置操作中添加以下自定义脚本，拼接所有输出内容并换算 Tokens：

// 获取响应的文本内容
const text = pm.response.text()
// 将文本内容分割成行数
var lines = text.split('\n');
// 创建一个空数组存储 "content" 参数
var contents = [];
// 遍历每一行
for (var i = 0; i < lines.length; i++) {
    const line = lines[i];
    // 跳过不以 "data:" 开头的行
    if (!line.startsWith('data:')) {
        continue;
    }
    // 尝试解析 JSON 数据
    try {
        var data = JSON.parse(line.substring(5).trim());  // 移除前面的 "data: "
        // 从 "choices" 数组中获取 "content" 参数并将其添加到数组中
        contents.push(data.choices[0].delta.content);
    } catch (e) {
        // 如果当前行不是有效的 JSON 数据，则忽略该行
    }
}
// 使用 join() 方法将 "content" 参数合并起来
var result = contents.join('');
// 在 "Visualize" 选项卡中显示结果
pm.visualizer.set(result);
// 将结果打印到控制台
console.log(result);

// 计算输出令牌的数量
var RESULT_OUTPUT_TOKENS = pm.execute('./gpt-tokens/gpt-tokens-counter.js', [result])
pm.environment.set("RESULT_OUTPUT_TOKENS", RESULT_OUTPUT_TOKENS);

console.log("Output Tokens count: " + pm.environment.get("RESULT_OUTPUT_TOKENS"));

点击 “运行” 按钮后可以在控制台中看到已统计的输出值。

基于实时汇率换算人民币成本

得到输入和输出所耗费的 Tokens 值后，因为 ChatGPT 采用美元计价，因此还需要调用实时汇率 API 后才能预估所消耗的人民币成本。

本文将调用 Currencylayer API 获取实时汇率。

计算输入成本

得到输入 Tokens 值后，还需请求实时汇率接口得到一个人民币换算乘数。在前置操作中新增以下脚本：

// 发送请求以获取 USD 到 CNY 的汇率
pm.sendRequest("http://apilayer.net/api/live?access_key=YOUR-API-KEY&currencies=CNY&source=USD&format=1", (err, res) => {
  if (err) {
    console.log(err);
  } else {
    // 从响应结果中提取 USDCNY 汇率值并保留小数点后三位
    const quotes = res.json().quotes;
    const rate = parseFloat(quotes.USDCNY).toFixed(3);
    // 将 USDCNY 汇率存储在 Postman 环境变量中
    pm.environment.set("USDCNY_RATE", rate); 
    var USDCNY_RATE = pm.environment.get("USDCNY_RATE");
    // 从先前的脚本中检索 RESULT_INPUT_TOKENS 环境变量
    var RESULT_INPUT_TOKENS = pm.environment.get("RESULT_INPUT_TOKENS");

    // 计算令牌汇率值
    const tokensExchangeRate = 0.03; // 1000 个令牌的价格，以 GPT-4-8k 上下文输入定价为参考，以美元为单位。

    // 按人民币计算的估计价格
    const CNYPrice = ((RESULT_INPUT_TOKENS / 1000) * tokensExchangeRate * USDCNY_RATE).toFixed(2);

    // 将估计价格存储在 Postman 环境变量中
    pm.environment.set("INPUT_PRICE", CNYPrice); 

    // 输出估计费用
    console.log("Estimated cost: " + "￥" + CNYPrice);
  }
});

点击 “运行” 按钮后可以在控制台中看到预估的人民币成本。

计算输出成本

换算出输出所耗费的 Tokens 值后，与汇率相乘得到实际人民币成本。在后置操作中添加以下脚本：

// 向 http://apilayer.net 发送请求，获取 USD：CNY 汇率信息
pm.sendRequest("http://apilayer.net/api/live?access_key=YOUR-API-KEY&currencies=CNY&source=USD&format=1", (err, res) => {
  if (err) {
    console.log(err);
  } else {
    const quotes = res.json().quotes;
    // 获取 USD：CNY 汇率
    const rate = parseFloat(quotes.USDCNY).toFixed(3);
    // 将汇率信息存入环境变量 USDCNY_RATE 中
    pm.environment.set("USDCNY_RATE", rate); 
    // 从环境变量中获取 USDCNY_RATE 的值
    var USDCNY_RATE = pm.environment.get("USDCNY_RATE");
    // 从之前的 Postman 脚本中获取 RESULT_OUTPUT_TOKENS 的值
    var RESULT_OUTPUT_TOKENS = pm.environment.get("RESULT_OUTPUT_TOKENS");

    // 计算 tokens 的汇率
    const tokensExchangeRate = 0.06; // 基于 GPT-4-8k 上下文输入定价的每 1000 个 token 的价格

    // 计算 CNY 中的预估售价
    const CNYPrice = ((RESULT_OUTPUT_TOKENS / 1000) * tokensExchangeRate * USDCNY_RATE).toFixed(2);
    // 将价格信息存入输出变量 OUTPUT_PRICE 中
    pm.environment.set("OUTPUT_PRICE", CNYPrice); 
    // 输出 CNY 的售价信息
    console.log("Output cost (CNY): " + "￥" + CNYPrice);
  }
});

点击 “运行” 按钮后可以在控制台中看到输出值的预估人民币花费。

预估总成本

最后还可以在后置操作中添加一个可以自动计算输入+输出总成本的步骤。

// 输入输出成本加总

const INPUTPrice = Number(pm.environment.get("INPUT_PRICE"));

const OUTPUTPrice = Number(pm.environment.get("OUTPUT_PRICE"));

console.log("总成本：" + (INPUTPrice + OUTPUTPrice) + "元");

这样就能够在调试 ChatGPT API 的过程中预估出大致的输入输出总成本。

现在你不仅可以在 Apifox 中愉快地调用 ChatGPT API，还能够清楚掌握你的调用成本，做到心中有数。

Apifox 是更先进的 API 设计/开发/测试工具。

Apifox = Postman + Swagger + Mock + JMeter

一个工具解决 API 开发、调试、管理的一切问题。

如果对 ChatGPT 感兴趣，可以查看往期文章《不懂代码也能调用 ChatGPT API，只需要三步》。

更多关于 ChatGPT 的实践内容可以前往 Apifox 官网查看哦！

访问 Apifox 实践文档