跳转到主要内容
适用于通过 OpenAI 兼容协议接入的第三方模型服务或本地部署的模型,例如:
  • 第三方 API 代理:使用统一的 API Base 调用多种模型
  • 本地模型:通过 Ollama、vLLM、LocalAI 等工具在本地部署的模型
  • 私有化部署:企业内部部署的模型服务
openai 厂商的区别:选择自定义厂商后,通过 /config model 切换模型时,不会自动切换厂商类型,始终使用自定义的 API 地址。

配置方式

第三方 API 代理

{
  "bot_type": "custom",
  "model": "deepseek-chat",
  "custom_api_key": "YOUR_API_KEY",
  "custom_api_base": "https://{your-proxy.com}/v1"
}
参数说明
bot_type必须设为 custom
model模型名称,可填写代理服务支持的任意模型名
custom_api_keyAPI 密钥,由代理服务提供
custom_api_baseAPI 地址,由代理服务提供,需兼容 OpenAI 协议

本地模型

本地模型通常不需要 API Key,只需填写 API Base 即可:
{
  "bot_type": "custom",
  "model": "qwen3.5:27b",
  "custom_api_base": "http://localhost:11434/v1"
}
常见的本地部署工具及默认地址:
工具默认 API Base
Ollamahttp://localhost:11434/v1
vLLMhttp://localhost:8000/v1
LocalAIhttp://localhost:8080/v1

切换模型

自定义厂商下切换模型时,只会修改 model,不会改变 bot_type 和 API 地址:
/config model qwen3.5:27b