Zum Hauptinhalt springen
Gib LiteLLM das Modell openai/<Phaseo-Modell-ID>, deinen Phaseo-Schlüssel und api_base="https://api.phaseo.app/v1". Das funktioniert für direkte LiteLLM-Aufrufe und für Modelle hinter einem LiteLLM-Proxy.

Installieren

Phaseo aus LiteLLM aufrufen

Wird ok ausgegeben, funktioniert die Einrichtung. LiteLLM verwendet das Präfix openai/ für OpenAI-kompatible Endpunkte. Die Phaseo-Modell-ID bleibt openai/gpt-6-astra, der LiteLLM-Modellstring wird also zu openai/openai/gpt-6-astra.

Phaseo-Modelle zu einem LiteLLM-Proxy hinzufügen

Gib jedem Modell einen Alias, damit der Anwendungscode das LiteLLM-Präfix nicht braucht:
Rufe den Proxy dann mit model: "phaseo-gpt-6-astra" auf. Aliase halten Modellnamen in der Produktion lesbar.

Bekannte Einschränkungen

  • Manche Proxy-Schichten ändern oder verwerfen Tool-Typen, die sie nicht kennen. Wenn du Phaseo-Server-Tools nutzt, teste genau deine LiteLLM-Route.
  • Sowohl LiteLLM als auch Phaseo erfassen Ausgaben. Entscheide, welches System für Kosten maßgeblich ist. Die Preise von Phaseo stehen im Preisrechner.
Zuletzt geändert am 5. November 2026