OpenAI 互換プロトコルで接続するサードパーティのモデルサービスや、ローカルにデプロイしたモデルに適しています。例えば:Documentation Index
Fetch the complete documentation index at: https://docs.cowagent.ai/llms.txt
Use this file to discover all available pages before exploring further.
- サードパーティ API プロキシ:統一された API Base から複数のモデルを呼び出す
- ローカルモデル:Ollama、vLLM、LocalAI などのツールでローカルにデプロイしたモデル
- プライベートデプロイ:企業内部にデプロイしたモデルサービス
openai ベンダーとの違い:カスタムベンダーを選択した場合、/config model でモデルを切り替えてもベンダータイプは自動で切り替わらず、常にカスタムの API アドレスを使用します。テキスト対話
サードパーティ API プロキシ
| パラメータ | 説明 |
|---|---|
bot_type | custom に設定する必要があります |
model | モデル名。プロキシサービスがサポートする任意のモデル名を指定 |
custom_api_key | API キー。プロキシサービスから提供されます |
custom_api_base | API アドレス。プロキシサービスから提供され、OpenAI プロトコル互換である必要があります |
ローカルモデル
ローカルモデルは通常 API Key が不要で、API Base のみ設定します:モデル切り替え
カスタムベンダーでモデルを切り替える際はmodel のみが変更され、bot_type と API アドレスは変わりません:
