provider.sort für eine Anfrage, um die Anbieter desselben Modells nach price, latency oder throughput zu ordnen statt nach der ausgewogenen Standard-Rangfolge. Am Ende hast du die Anfrage in deiner Sprache und siehst in der Antwort und in den Protokollen, welchen Anbieter die Sortierung gewählt hat.
Die Anfrageformen sind produktionsreif. Festlegen, wie Anbieter gereiht werden behandelt den Workspace-Standard, routing.mode und die Modell-Suffixe :cheap, :fast und :nitro.
Eine sortierte Anfrage senden
meta: true fügt meta.routing.selected_provider hinzu, den Anbieter, den die Sortierung gewählt hat.
Was jede Sortierung gewichtet
Eine Sortierung ändert die Gewichte der Anbieterbewertung; sie lässt die anderen Signale nicht weg, sodass ein unzuverlässiger günstiger Anbieter trotzdem verlieren kann:
Latenz und Durchsatz stammen aus den neuesten Messungen von Phaseo für jeden Anbieter.
Innerhalb einer freigegebenen Auswahl sortieren
Sortieren funktioniert am besten, wenn die Auswahl nur Anbieter enthält, die du akzeptieren würdest. Fügeonly hinzu, und die Sortierung ordnet innerhalb davon:
only, order und ignore.