Skip to content

对话接口 ​

当前文档描述 OpenAI 兼容的对话接口。若控制台另外开通了其他协议,以该协议自己的说明页为准,不要假定对话接口的模型都能走另一条协议。

对话补全 ​

POST https://【域名】/v1/chat/completions

json
{
  "model": "【模型 ID】",
  "messages": [
    { "role": "system", "content": "你是一个简洁的助手。" },
    { "role": "user", "content": "你好" }
  ],
  "temperature": 1,
  "max_tokens": 1024,
  "stream": false
}
字段说明
model控制台中的模型 ID
messages对话消息。角色一般包括 system、user、assistant
temperature采样温度。上游不支持时可能忽略或报错
max_tokens期望的输出上限。实际上限还受模型和账户余额约束
streamtrue 时改为流式输出,默认 false

成功时返回 JSON,助手文本在 choices[0].message.content。用量在 usage 中,计费以该次实际结算为准,见计费与退款。

流式输出 ​

stream 设为 true 后,响应改为 text/event-stream。每一行以 data: 开头,结束标记为 data: [DONE]。最后一个包含用量的数据块里会带上 usage。

客户端断开后,已经生成并被上游接受的部分仍可能计费。请在超时和取消逻辑里保留请求 ID,便于事后核对。

模型列表 ​

GET https://【域名】/v1/models

json
{
  "object": "list",
  "data": [
    {
      "id": "【模型 ID】",
      "object": "model",
      "owned_by": "【路由标识】"
    }
  ]
}

这个列表是当前路由可以接受的 ID,不是上游厂商的完整商品目录。owned_by 只说明路由分组,不要把它理解成我们拥有该模型。

请求必须带鉴权头。

草案,非正式法律意见。上线前须由执业律师按实际业务复核。