https://api.phaseo.app/v1, dann nutzen deine Sprach-Agents Phaseo-Modell-IDs und das Phaseo-Routing. Das Plugin ruft den Chat-Completions-Endpunkt von Phaseo auf.
Installieren
Das LLM des Agents auf Phaseo richten
Bekannte Einschränkungen
- Nutze für benutzerdefinierte Endpunkte den Chat-Completions-Modus des Plugins. Die Responses-spezifischen OpenAI-Tools von LiveKit werden nicht zu Phaseo-Server-Tools.
- Damit wird nur das LLM geroutet. Konfiguriere Spracherkennung und Sprachausgabe separat, es sei denn, die LiveKit-Schnittstelle, die du nutzt, akzeptiert für diese Modalität eine benutzerdefinierte OpenAI-kompatible URL.
- Teste die Behandlung von Unterbrechungen, Tool-Aufrufe und die Streaming-Latenz, bevor du Sprach-Traffic in Produktion nimmst.