- 第三方 API 代理:通过统一的 API 地址调用多种模型
- 本地模型:使用 Ollama、vLLM 等工具在本地部署的模型
- 私有化部署:企业内部部署的模型服务
Web 端配置
推荐方式。在 Web 控制台「模型」页面点击「添加厂商」,选择「自定义」,填写名称、API Base 和 API Key 即可。支持添加多个自定义厂商,添加后在「主模型」中选择对应厂商和模型即可启用。
本地部署工具的默认地址:
配置文件配置
也可以直接编辑config.json,在 custom_providers 列表中定义多个厂商,并将 bot_type 设置为 "custom:<id>" 来激活其中一个:
历史的单厂商配置(
bot_type 为 "custom",配合 custom_api_key / custom_api_base)仍然兼容,无需改动即可继续使用。