当使用openai微调模型时，若遇到“the model `xxxxx` does not exist”错误，通常是由于选择了错误的api端点。本文将详细阐述如何根据微调模型的类型（gpt-3.5 turbo或旧版gpt-3模型如babbage/davinci）正确选择chat completions api或completions api，并提供相应的代码示例，确保您的微调模型能够被正确调用。
理解“模型不存在”错误的原因
在使用OpenAI的API调用微调模型时，即使通过API列表确认模型确实存在，有时仍会收到“The model xxxxx does not exist”的错误提示。这通常不是因为模型真的不存在，而是因为您尝试通过不兼容的API端点来访问它。OpenAI针对不同类型的模型提供了不同的API端点和请求格式，尤其是在GPT-3和GPT-3.5 Turbo模型之间存在显著差异。
API端点选择的关键：根据微调模型类型
OpenAI在2023年8月更新后，对GPT-3.5 Turbo的微调功能正式开放，这改变了微调模型的调用方式。核心原则是：您的微调模型基于哪种基础模型，就应该使用对应基础模型的API端点。
-
对于基于GPT-3.5 Turbo的微调模型： 如果您的微调模型是基于gpt-3.5-turbo训练的，那么您应该使用Chat Completions API端点。
- API端点: https://api.openai.com/v1/chat/completions
- 请求体格式: 使用messages数组，包含role和content字段，遵循聊天对话格式。
-
对于基于旧版GPT-3模型的微调模型： 如果您的微调模型是基于旧版GPT-3模型（如babbage-002或davinci-002）训练的，那么您必须使用Completions API端点。
- API端点: https://api.openai.com/v1/completions
- 请求体格式: 使用prompt字段，提供文本提示。
OpenAI官方文档明确指出：当微调任务成功后，fine_tuned_model字段将包含模型名称。对于gpt-3.5-turbo的微调模型，请使用Chat Completions API；对于babbage-002和davinci-002的微调模型，请使用Completions API。
示例代码：Node.js中的正确调用
假设您有一个名为ft-modelname的微调模型。
常见错误示例 (尝试用Chat Completions API调用非GPT-3.5 Turbo微调模型):
const API_KEY = "YOUR_API_KEY";
const ORG_ID = "YOUR_ORG_ID";
const headers = {
"Content-Type": "application/json",
Authorization: "Bearer " + API_KEY,
"OpenAI-Organization": ORG_ID,
};
// 假设 ft-modelname 是基于旧版GPT-3模型微调的
// 错误：使用了 chat/completions 端点
const res = await axios.post(
"https://api.openai.com/v1/chat/completions", // 错误的端点选择
{
model: "ft-modelname",
messages: [ // 错误的请求体格式
{
role: "system",
content: "your name is Name.",
},
{
role: "user",
content: "Hello",
},
],
},
{ headers }
);上述代码会导致“The model ft-modelname does not exist”错误，因为ft-modelname（如果它是基于GPT-3如babbage-002微调的）不兼容chat/completions端点及其messages格式。
正确调用示例 (Node.js):
1. 调用基于GPT-3.5 Turbo的微调模型 (使用Chat Completions API):
const API_KEY = "YOUR_API_KEY";
const ORG_ID = "YOUR_ORG_ID";
const headers = {
"Content-Type": "application/json",
Authorization: "Bearer " + API_KEY,
"OpenAI-Organization": ORG_ID,
};
// 假设 ft-gpt35-turbo-model 是基于 GPT-3.5 Turbo 微调的
const res = await axios.post(
"https://api.openai.com/v1/chat/completions", // 正确的端点
{
model: "ft-gpt35-turbo-model", // 您的GPT-3.5 Turbo微调模型名称
messages: [ // 正确的请求体格式
{
role: "system",
content: "您的名字是助手。",
},
{
role: "user",
content: "你好，请问你是谁？",
},
],
},
{ headers }
);
console.log(res.data.choices[0].message.content);2. 调用基于旧版GPT-3的微调模型 (使用Completions API):
const API_KEY = "YOUR_API_KEY";
const ORG_ID = "YOUR_ORG_ID";
const headers = {
"Content-Type": "application/json",
Authorization: "Bearer " + API_KEY,
"OpenAI-Organization": ORG_ID,
};
// 假设 ft-babbage-model 是基于 babbage-002 或 davinci-002 微调的
const res = await axios.post(
"https://api.openai.com/v1/completions", // 正确的端点
{
model: "ft-babbage-model", // 您的旧版GPT-3微调模型名称
prompt: "请说这是一次测试。", // 正确的请求体格式
max_tokens: 50,
},
{ headers }
);
console.log(res.data.choices[0].text);其他语言/工具的Completions API调用示例
为了完整性，以下提供使用Completions API调用旧版GPT-3微调模型在其他语言和工具中的示例：
Python:
import os
import openai
openai.api_key = os.getenv("OPENAI_API_KEY")
response = openai.Completion.create(
model="ft-babbage-model", # 您的旧版GPT-3微调模型名称
prompt="请说这是一次测试。",
max_tokens=50
)
print(response.choices[0].text)cURL:
curl https://api.openai.com/v1/completions \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"prompt": "请说这是一次测试。", "model": "ft-babbage-model", "max_tokens": 50}'OpenAI CLI:
openai api completions.create -m ft-babbage-model -p "请说这是一次测试。" --max_tokens 50
注意事项与总结
- 确认微调模型的基础类型： 在微调完成后，务必确认您的微调模型是基于gpt-3.5-turbo还是旧版GPT-3模型（如babbage-002, davinci-002）。这决定了您应该使用的API端点。
- 请求体格式： chat/completions端点要求messages数组，而completions端点要求prompt字符串。混用会导致参数错误或模型无法识别。
- 官方文档是最佳指南： OpenAI的API和模型能力会不断更新。遇到问题时，查阅官方文档（特别是微调和API参考部分）是解决问题的最有效途径。
- 错误信息解读： “The model xxxxx does not exist”这类错误通常表明API无法识别您请求的模型，这往往与API端点选择或模型名称拼写错误有关。
通过正确识别您的微调模型类型并选择相应的API端点和请求格式，您可以避免“模型不存在”的错误，并成功地调用您的OpenAI微调模型。
