provider-Objekt hinzu, um zu ändern, welche Anbieter sie bedienen, ohne die Workspace-Standards oder Presets anzufassen. Am Ende kannst du eine Reihenfolge bevorzugen, eine Anfrage innerhalb einer Zulassungsliste halten oder einen Anbieter überspringen und in der Antwort sehen, welcher Anbieter geantwortet hat.
Diese Anfrageformen sind produktionsreif. Die Anbieter-Slugs sind echte Beispiele; prüfe auf der Seite des Modells, welche Anbieter dein Modell bedienen.
Um genau einen Anbieter zu verwenden und den anbieterübergreifenden Fallback abzuschalten, stelle ihn stattdessen der Modell-ID voran: siehe Einen Anbieter festlegen.
Anbieter in einer festen Reihenfolge versuchen
meta: true fügt der Antwort meta.routing.selected_provider hinzu, sodass du das Ergebnis prüfen kannst, ohne die Protokolle zu öffnen.
Eine Anfrage innerhalb einer Zulassungsliste halten
Sendeonly und optional sort, um innerhalb dieser Liste zu ordnen:
Einen Anbieter überspringen
Sendeignore, wenn ein Anbieter beeinträchtigt ist oder während du einen anderen Pfad testest:
Kombinieren
Verwendeonly für die Auswahl, order für die Bevorzugung darin und sort für den Rest. Dieses Beispiel hält eine Anfrage bei Google Vertex, versucht zuerst die EU-Region und ordnet dann nach Latenz: