对话接口
当前文档描述 OpenAI 兼容的对话接口。若控制台另外开通了其他协议,以该协议自己的说明页为准,不要假定对话接口的模型都能走另一条协议。
对话补全
POST https://【域名】/v1/chat/completions
json
{
"model": "【模型 ID】",
"messages": [
{ "role": "system", "content": "你是一个简洁的助手。" },
{ "role": "user", "content": "你好" }
],
"temperature": 1,
"max_tokens": 1024,
"stream": false
}| 字段 | 说明 |
|---|---|
model | 控制台中的模型 ID |
messages | 对话消息。角色一般包括 system、user、assistant |
temperature | 采样温度。上游不支持时可能忽略或报错 |
max_tokens | 期望的输出上限。实际上限还受模型和账户余额约束 |
stream | true 时改为流式输出,默认 false |
成功时返回 JSON,助手文本在 choices[0].message.content。用量在 usage 中,计费以该次实际结算为准,见计费与退款。
流式输出
stream 设为 true 后,响应改为 text/event-stream。每一行以 data: 开头,结束标记为 data: [DONE]。最后一个包含用量的数据块里会带上 usage。
客户端断开后,已经生成并被上游接受的部分仍可能计费。请在超时和取消逻辑里保留请求 ID,便于事后核对。
模型列表
GET https://【域名】/v1/models
json
{
"object": "list",
"data": [
{
"id": "【模型 ID】",
"object": "model",
"owned_by": "【路由标识】"
}
]
}这个列表是当前路由可以接受的 ID,不是上游厂商的完整商品目录。owned_by 只说明路由分组,不要把它理解成我们拥有该模型。
请求必须带鉴权头。