JSON Output

在很多场景下，用户需要让模型严格按照 JSON 格式来输出，以实现输出的结构化，便于后续逻辑进行解析。

DeepSeek 提供了 JSON Output 功能，来确保模型输出合法的 JSON 字符串。

注意事项

设置 response_format 参数为 {'type': 'json_object'}。

用户传入的 system 或 user prompt 中必须含有 json 字样，并给出希望模型输出的 JSON 格式的样例，以指导模型来输出合法 JSON。

需要合理设置 max_tokens 参数，防止 JSON 字符串被中途截断。

在使用 JSON Output 功能时，API 有概率会返回空的 content。我们正在积极优化该问题，您可以尝试修改 prompt 以缓解此类问题。

这里展示了使用 JSON Output 功能的完整 Python 代码：

模型将会输出：

{
    "question": "Which is the longest river in the world?",
    "answer": "The Nile River"
}