Zum Hauptinhalt springen
POST
Antwort erstellen

Server-Tools verwenden

Füge tools neben deinen eigenen Funktions-Tools ein phaseo:-Tool hinzu, und Phaseo führt es aus, wenn das Modell es aufruft. /v1/responses akzeptiert jedes Server-Tool, einschließlich phaseo:apply_patch, das nur dieser Endpunkt unterstützt; der Leitfaden Server-Tools listet sie auf.
Jeder Server-Tool-Aufruf wird in usage.server_tool_use gezählt: Der ältere Typ gateway:datetime funktioniert weiterhin. Mit stream: true führt Phaseo die Tool-Züge selbst aus und streamt dir dann die fortgesetzte Antwort als einen einzigen Stream.

Reasoning in Tool-Schleifen

Bei OpenAI, Azure OpenAI und xAI sendet Phaseo Responses-Anfragen mit store: false an den Upstream, sodass das Reasoning eines Modells zwischen den Schritten einer Tool-Schleife nur über die reasoning-Ausgabeelemente weiterläuft. Jedes reasoning-Element hat eine id, summary und content. Wenn der Anbieter Reasoning-Zustand zurückgibt, hat das Element außerdem encrypted_content, das eines der folgenden enthält:
  • Verschlüsseltes Reasoning von OpenAI, Azure OpenAI und xAI. Phaseo fordert es bei Reasoning-Modellen mit include: ["reasoning.encrypted_content"] an.
  • Claude-Thinking-Signaturen und geschwärztes Thinking.
  • Gemini-Thought-Signaturen, einschließlich eines separaten reasoning-Elements direkt vor dem Funktionsaufruf, zu dem eine Signatur gehört.
  • Die Aufwandsstufe, mit der eine Claude-Antwort lief, im letzten reasoning-Element der Ausgabe, das keinen Text hat.
Streaming-Antworten enthalten dieselben Elemente in response.output_item.done und response.completed.
Sende jedes Ausgabeelement bei jeder Anfrage unverändert in input zurück, nicht nur in Tool-Schleifen. Verwirf, bearbeite oder sortiere reasoning-Elemente nie um, mit oder ohne encrypted_content, auch Elemente ohne Text.
encrypted_content ist undurchsichtig und hält fest, welcher Anbieter und welches Modell es erzeugt haben. Phaseo sendet es nur an diese Anbieterfamilie und dieses Modell, sodass ein Fallback auf einen anderen Anbieter es verwirft, statt fehlzuschlagen. Ohne es verliert Claude sein Reasoning zwischen den Schritten der Tool-Schleife, und eine Änderung von reasoning.effort startet Claudes Prompt-Cache neu; siehe Reasoning-Aufwand mitten in der Unterhaltung ändern.

Autorisierungen

Authorization
string
header
erforderlich

Authentifizierung mit Bearer-Token

Body

application/json

Ein optionales Feld der obersten Ebene, das als null gesendet wird, gilt als nicht gesetzt, genau wie ein weggelassenes Feld.

model
string
erforderlich
input
erforderlich
models
string[]

Optionale, geordnete Fallback-Modelle, die nach model versucht werden. model ist erforderlich und immer das primäre Modell. Schlägt ein Versuch mit 429, 500, 502, 503 oder 504 fehl, wird der nächste Eintrag versucht; andere Fehler werden unverändert zurückgegeben. Akzeptiert bis zu 25 Modell-IDs oder Presets; Duplikate und Einträge, die model entsprechen, werden ignoriert. Jeder Versuch wird als eigene Anfrage validiert, protokolliert und abgerechnet, und das Feld model der Antwort sowie der Routing-Trace zeigen das Modell, das die Anfrage bedient hat. Streaming-Anfragen weichen nur vor dem ersten Byte aus, Video- und Musikjobs nur bei der Übermittlung. Batch-, Realtime- und Council-Anfragen lehnen models ab. Auf einer dynamischen Route festgelegte Fallbacks haben Vorrang, und phaseo/auto kann nicht mit models kombiniert werden.

Required array length: 1 - 25 elements
Minimum string length: 1
Beispiel:
prompt
object

Füllt die in einem Preset gespeicherte Prompt-Vorlage aus. Lassen Sie model weg oder setzen Sie dieselbe Referenz, und senden Sie eine leere Unterhaltung oder die Nachrichten, die nach der Vorlage folgen sollen.

background
boolean
include
string[]
instructions
string
max_output_tokens
integer
Erforderlicher Bereich: x >= 1
metadata
object
session_id
string

Eindeutige Kennung, um zusammengehörige Anfragen (zum Beispiel eine Unterhaltung oder einen Agenten-Workflow) für die Beobachtbarkeit zu gruppieren.

Maximum string length: 256
parallel_tool_calls
boolean
previous_response_id
string

Nicht unterstützt. Phaseo speichert keine Antworten, daher geben Anfragen mit previous_response_id oder conversation 400 unsupported_param zurück. Sende die gesamte Unterhaltung in input.

reasoning
object
service_tier
enum<string> | null

Wählt eine unterstützte Routing- oder Preisstufe. auto (oder null) fordert keine bestimmte Stufe an und wird so geroutet und abgerechnet, als wäre das Feld nicht gesetzt; scale wird als default behandelt, die Standardstufe.

Verfügbare Optionen:
standard,
default,
fast,
ultrafast,
priority,
flex,
batch,
auto,
scale
store
boolean
stream
boolean
temperature
number
Erforderlicher Bereich: 0 <= x <= 2
text
object
plugins
object[]

Gateway-Plugins für diese Anfrage. web ergänzt jedes Modell um Websuche und web-fetch um das Abrufen von Seiten; response-healing repariert fehlerhaftes JSON in nicht gestreamten strukturierten Antworten. Standardwerte aus Workspace und Preset werden mit dieser Liste zusammengeführt. Eine unbekannte Plugin-ID liefert 400 unknown_gateway_plugin.

Fügt der Anfrage das Server-Tool phaseo:web_search hinzu, sodass jedes Modell im Web suchen kann. Die Anfrage läuft, und Suchen werden gezählt und abgerechnet, genau wie mit einem phaseo:web_search-Tool. Enthält die Anfrage bereits ein Websuche-Tool, fügt das Plugin nichts hinzu. Andere Optionen werden ignoriert.

tool_choice

Strategie zur Toolauswahl. Phaseo-Servertool-Typen werden akzeptiert und in Funktions- oder Toolziele des Upstreams umgeschrieben. Ein allowed_tools-Objekt wird unverändert und mit allen Tools an OpenAI gesendet. Andere Anbieter erhalten nur die erlaubten Tools und dessen Modus (auto oder required) oder einen erzwungenen Aufruf, wenn required genau ein Tool erlaubt. Nennt allowed_tools ein Tool, das tools nicht definiert, kann nur OpenAI die Anfrage bedienen; andernfalls wird ein 400-Fehler zurückgegeben.

Verfügbare Optionen:
auto,
none,
required,
phaseo:datetime,
phaseo:web_search,
phaseo:web_fetch,
phaseo:subagent,
phaseo:fusion,
phaseo:search_models,
gateway:datetime,
gateway:web_search,
gateway:web_fetch
tools
object[]

Werkzeugdefinitionen für Modell-Funktionsaufrufe und Gateway-Servertools. Die integrierten Gateway-Servertools sind gateway:datetime, gateway:web_search und gateway:web_fetch.

top_p
number
Erforderlicher Bereich: 0 <= x <= 1
truncation
enum<string>
Verfügbare Optionen:
auto,
disabled
user
string
prompt_cache_key
string | null

Gruppiert zusammengehörige Anfragen, damit sie bei dem Anbieter bleiben, der ihren Prompt-Cache hat. Phaseo sendet einen Hash aus deinem Workspace und diesem Schlüssel an den Anbieter, nie den Rohschlüssel.

prompt_cache_retention
enum<string>

Prompt-Cache-Aufbewahrung für OpenAI- und Azure-OpenAI-Modelle vor GPT-5.6. Hat Vorrang vor provider_options.openai.prompt_cache_retention.

Verfügbare Optionen:
in_memory,
24h
prompt_cache_options
object

Prompt-Cache-Modus und TTL für OpenAI und Azure OpenAI ab GPT-5.6 (ttl 30m, bei OpenAI auch 12h) sowie für DeepInfra (ttl 5m oder 1h). Wird für andere Anbieter entfernt.

cache_control
object

Prompt-Cache-Steuerung. Verwende type ephemeral mit einer optionalen ttl von 5m oder 1h. scope gilt nur für eine Claude-Cache-Richtlinie auf oberster Ebene. Amazon Bedrock und Google Vertex AI cachen Claude 3.7 Sonnet, 3.5 Sonnet und 3 Opus nur für 5 Minuten; dort wird die ttl entfernt, und eine entfernte 1h wird in X-Phaseo-Dropped-Params als cache_control.ttl gemeldet.

safety_identifier
string | null
modalities
enum<string>[]
Verfügbare Optionen:
text,
image,
audio
image_config
object
provider_options
object

Optionale anbieterspezifische Optionen.

usage
boolean
meta
boolean
echo_upstream_request
boolean
debug
object

Gateway-Debug-Steuerungen. Diese Flags werden niemals an den Anbieter weitergeleitet.

provider
object

Anbieterrouting-Präferenzen für die Auswahl durch das Gateway.

Antwort

Antwort

id
string
object
string
created
integer
model
string
provider
string
provider_id
string
nativeResponseId
string | null
status
enum<string>
Verfügbare Optionen:
completed,
failed,
incomplete
finish_reason
string | null
meta
object
cost_nanos
number
cost_cents
integer
currency
string
pricing_lines
object[]
output
object[]
output_items
object[]
content
object[]
role
string
stop_reason
string
type
string
usage
object
Zuletzt geändert am 12. November 2026