Zum Hauptinhalt springen
Setze provider.sort für eine Anfrage, um die Anbieter desselben Modells nach price, latency oder throughput zu ordnen statt nach der ausgewogenen Standard-Rangfolge. Am Ende hast du die Anfrage in deiner Sprache und siehst in der Antwort und in den Protokollen, welchen Anbieter die Sortierung gewählt hat. Die Anfrageformen sind produktionsreif. Festlegen, wie Anbieter gereiht werden behandelt den Workspace-Standard, routing.mode und die Modell-Suffixe :cheap, :fast und :nitro.

Eine sortierte Anfrage senden

meta: true fügt meta.routing.selected_provider hinzu, den Anbieter, den die Sortierung gewählt hat.

Was jede Sortierung gewichtet

Eine Sortierung ändert die Gewichte der Anbieterbewertung; sie lässt die anderen Signale nicht weg, sodass ein unzuverlässiger günstiger Anbieter trotzdem verlieren kann: Latenz und Durchsatz stammen aus den neuesten Messungen von Phaseo für jeden Anbieter.

Innerhalb einer freigegebenen Auswahl sortieren

Sortieren funktioniert am besten, wenn die Auswahl nur Anbieter enthält, die du akzeptieren würdest. Füge only hinzu, und die Sortierung ordnet innerhalb davon:
Anbieter festlegen oder ignorieren behandelt only, order und ignore.

Die Rangfolge prüfen

Öffne die Anfrage unter Einstellungen → Nutzung → Protokolle und klappe Beobachtbarkeit des Routings auf. Dort stehen die berücksichtigten Anbieter, ihr Rang sowie die Faktoren und Gewichte jeder Bewertung, sodass du bestätigen kannst, dass die Sortierung das Erwartete getan hat. Um dieselbe Sortierung auf viele Aufrufer anzuwenden, lege sie in einem Preset ab.
Zuletzt geändert am 5. November 2026