openai/<Phaseo model ID>、Phaseo のキー、api_base="https://api.phaseo.app/v1" を渡します。これは LiteLLM の直接呼び出しにも、LiteLLM プロキシの背後にあるモデルにも使えます。
インストール
LiteLLM から Phaseo を呼び出す
ok が出力されれば、設定は正しく動作しています。LiteLLM は OpenAI 互換エンドポイントに openai/ プレフィックスを使います。Phaseo のモデル ID はそのまま openai/gpt-6-astra なので、LiteLLM のモデル文字列は openai/openai/gpt-6-astra になります。
LiteLLM プロキシに Phaseo のモデルを追加する
アプリケーションのコードで LiteLLM のプレフィックスが不要になるよう、各モデルにエイリアスを付けます。model: "phaseo-gpt-6-astra" でプロキシを呼び出します。エイリアスを使うと、本番環境でモデル名が読みやすくなります。