# llama.cpp

llama.cpp 上线 Decision Models：模型不再生成文本，改为给选项打分，单题最低 3 毫秒
llama.cpp 上线 Decision Models：模型不再生成文本，改为给选项打分，单题最低 3 毫秒
llama.cpp 服务端新增 /v1/systemone，用打分代替生成来回答选择题、打分题和是非题；官方放出 6 个决策模型，最小 144M，单题延迟 3 毫秒起，并说明了置信阈值必须自行标定。