- 第三方 API 代理:使用统一的 API Base 调用多种模型
- 本地模型:通过 Ollama、vLLM、LocalAI 等工具在本地部署的模型
- 私有化部署:企业内部部署的模型服务
与
openai 厂商的区别:选择自定义厂商后,通过 /config model 切换模型时,不会自动切换厂商类型,始终使用自定义的 API 地址。配置方式
第三方 API 代理
| 参数 | 说明 |
|---|---|
bot_type | 必须设为 custom |
model | 模型名称,可填写代理服务支持的任意模型名 |
custom_api_key | API 密钥,由代理服务提供 |
custom_api_base | API 地址,由代理服务提供,需兼容 OpenAI 协议 |
本地模型
本地模型通常不需要 API Key,只需填写 API Base 即可:切换模型
自定义厂商下切换模型时,只会修改model,不会改变 bot_type 和 API 地址:
