Zum Hauptinhalt springen
POST
Chat-Vervollständigung erstellen

Server-Tools verwenden

Füge tools neben deinen eigenen Funktions-Tools ein phaseo:-Tool hinzu, und Phaseo führt es aus, wenn das Modell es aufruft. /v1/chat/completions akzeptiert jedes Server-Tool außer phaseo:apply_patch; der Leitfaden Server-Tools listet sie auf.
Jeder Server-Tool-Aufruf wird in usage.server_tool_use gezählt:
phaseo:web_search fügt web_search_requests, web_search_results und web_search_extra_results hinzu; phaseo:web_fetch fügt web_fetch_requests hinzu. Der ältere Typ gateway:datetime funktioniert weiterhin. Mit stream: true führt Phaseo die Tool-Züge selbst aus und streamt dir dann die fortgesetzte Antwort als einen einzigen Stream.

Reasoning in Tool-Schleifen

Reasoning-Modelle geben ihr Reasoning in der Assistentennachricht in zwei Feldern zurück:
  • reasoning_content: der Reasoning-Text, sofern der Anbieter einen zurückgibt.
  • reasoning_details: ein Array von Reasoning-Blöcken. Jeder Eintrag hat einen type (reasoning.text, reasoning.summary oder reasoning.encrypted), einen index und ein format, das die Anbieterfamilie nennt, zum Beispiel anthropic-claude-v1 oder google-gemini-v1.
Einträge können Anbieterzustand enthalten, den das Modell im nächsten Schritt einer Tool-Schleife braucht: Beim Streaming kommt ein reasoning_details-Delta, sobald ein Reasoning-Block vollständig ist.
Sende jede Assistentennachricht bei jeder Anfrage mit unveränderten reasoning_details zurück, nicht nur in Tool-Schleifen. Verwirf, bearbeite oder sortiere Einträge nie um, ob verschlüsselt oder nicht, auch Einträge ohne Text.
signature- und data-Werte sind undurchsichtig und halten fest, welcher Anbieter und welches Modell sie erzeugt haben. Phaseo sendet sie nur an diese Anbieterfamilie und dieses Modell, sodass ein Fallback auf einen anderen Anbieter sie verwirft, statt fehlzuschlagen. Ohne sie führen Claude-Modelle im manuellen Thinking-Modus den nächsten Schritt der Tool-Schleife ohne Thinking aus, und eine Änderung von reasoning_effort startet Claudes Prompt-Cache neu; siehe Reasoning-Aufwand mitten in der Unterhaltung ändern.

Autorisierungen

Authorization
string
header
erforderlich

Authentifizierung mit Bearer-Token

Body

application/json

Ein optionales Feld der obersten Ebene, das als null gesendet wird, gilt als nicht gesetzt, genau wie ein weggelassenes Feld.

model
string
erforderlich
messages
object[]
erforderlich
Minimum array length: 1
models
string[]

Optionale, geordnete Fallback-Modelle, die nach model versucht werden. model ist erforderlich und immer das primäre Modell. Schlägt ein Versuch mit 429, 500, 502, 503 oder 504 fehl, wird der nächste Eintrag versucht; andere Fehler werden unverändert zurückgegeben. Akzeptiert bis zu 25 Modell-IDs oder Presets; Duplikate und Einträge, die model entsprechen, werden ignoriert. Jeder Versuch wird als eigene Anfrage validiert, protokolliert und abgerechnet, und das Feld model der Antwort sowie der Routing-Trace zeigen das Modell, das die Anfrage bedient hat. Streaming-Anfragen weichen nur vor dem ersten Byte aus, Video- und Musikjobs nur bei der Übermittlung. Batch-, Realtime- und Council-Anfragen lehnen models ab. Auf einer dynamischen Route festgelegte Fallbacks haben Vorrang, und phaseo/auto kann nicht mit models kombiniert werden.

Required array length: 1 - 25 elements
Minimum string length: 1
Beispiel:
prompt
object

Füllt die in einem Preset gespeicherte Prompt-Vorlage aus. Lassen Sie model weg oder setzen Sie dieselbe Referenz, und senden Sie eine leere Unterhaltung oder die Nachrichten, die nach der Vorlage folgen sollen.

reasoning
object
reasoning_effort
enum<string>

OpenAI-kompatibler Alias für reasoning.effort.

Verfügbare Optionen:
none,
instant,
minimal,
low,
medium,
high,
xhigh,
max
frequency_penalty
number
Erforderlicher Bereich: -2 <= x <= 2
logit_bias
object
max_completion_tokens
integer
Erforderlicher Bereich: x >= 1
max_tokens
integer
Erforderlicher Bereich: x >= 1
metadata
object
session_id
string

Eindeutige Kennung, um zusammengehörige Anfragen (zum Beispiel eine Unterhaltung oder einen Agenten-Workflow) für die Beobachtbarkeit zu gruppieren.

Maximum string length: 256
presence_penalty
number
Erforderlicher Bereich: -2 <= x <= 2
seed
integer
Erforderlicher Bereich: -9223372036854776000 <= x <= 9223372036854776000
store
boolean
stream
boolean
Standard:false
stream_options
object
temperature
number
Standard:1
Erforderlicher Bereich: 0 <= x <= 2
tools
object[]

Werkzeugdefinitionen für Modell-Funktionsaufrufe und Gateway-Servertools. Zu den integrierten Servertools gehören Datum und Uhrzeit, Websuche, Webabruf, Advisor, Subagent, Fusion, Modellsuche, Bildgenerierung und Patch-Erstellung.

max_tool_calls
integer
Erforderlicher Bereich: x >= 1
parallel_tool_calls
boolean
Standard:true
tool_choice

Strategie zur Toolauswahl. Phaseo-Servertool-Typen werden akzeptiert und in Funktions- oder Toolziele des Upstreams umgeschrieben. Ein allowed_tools-Objekt wird unverändert und mit allen Tools an OpenAI gesendet. Andere Anbieter erhalten nur die erlaubten Tools und dessen Modus (auto oder required) oder einen erzwungenen Aufruf, wenn required genau ein Tool erlaubt. Nennt allowed_tools ein Tool, das tools nicht definiert, kann nur OpenAI die Anfrage bedienen; andernfalls wird ein 400-Fehler zurückgegeben.

Verfügbare Optionen:
auto,
none,
required,
phaseo:datetime,
phaseo:web_search,
phaseo:web_fetch,
phaseo:subagent,
phaseo:fusion,
phaseo:search_models,
gateway:datetime,
gateway:web_search,
gateway:web_fetch
plugins
object[]

Gateway-Plugins für diese Anfrage. web ergänzt jedes Modell um Websuche und web-fetch um das Abrufen von Seiten; response-healing repariert fehlerhaftes JSON in nicht gestreamten strukturierten Antworten. Standardwerte aus Workspace und Preset werden mit dieser Liste zusammengeführt. Eine unbekannte Plugin-ID liefert 400 unknown_gateway_plugin.

Fügt der Anfrage das Server-Tool phaseo:web_search hinzu, sodass jedes Modell im Web suchen kann. Die Anfrage läuft, und Suchen werden gezählt und abgerechnet, genau wie mit einem phaseo:web_search-Tool. Enthält die Anfrage bereits ein Websuche-Tool, fügt das Plugin nichts hinzu. Andere Optionen werden ignoriert.

logprobs
boolean
Standard:false
top_logprobs
integer
Erforderlicher Bereich: 0 <= x <= 20
top_p
number
Erforderlicher Bereich: 0 <= x <= 1
stop
response_format
modalities
enum<string>[]
Verfügbare Optionen:
text,
image,
audio
image_config
object
usage
boolean
provider

Anbieterauswahl. Verwende für einen einzelnen Anbieter eine Zeichenfolge oder Routing-Optionen wie { "only": ["groq"] }.

Verfügbare Optionen:
openai,
anthropic,
google-ai-studio,
gemini,
mistral,
x-ai,
xai,
groq,
together
provider_options
object

Optionale anbieterspezifische Optionen.

user_id
string
user
string
include_reasoning
boolean

Wird aus Kompatibilitätsgründen akzeptiert. Reasoning wird immer zurückgegeben, wenn das Modell es erzeugt (reasoning_content und reasoning_details), unabhängig vom Wert dieses Felds.

prediction
object

Vorhergesagte Ausgabe für schnellere Antworten, wenn der Großteil der Antwort im Voraus bekannt ist. Wird an Modelle von OpenAI, Mistral und Moonshot weitergeleitet; andere Anbieter ignorieren sie.

service_tier
enum<string> | null

Wählt eine unterstützte Routing- oder Preisstufe. auto (oder null) fordert keine bestimmte Stufe an und wird so geroutet und abgerechnet, als wäre das Feld nicht gesetzt; scale wird als default behandelt, die Standardstufe.

Verfügbare Optionen:
standard,
default,
fast,
ultrafast,
priority,
flex,
batch,
auto,
scale
prompt_cache_key
string | null

Gruppiert zusammengehörige Anfragen, damit sie bei dem Anbieter bleiben, der ihren Prompt-Cache hat. Phaseo sendet einen Hash aus deinem Workspace und diesem Schlüssel an den Anbieter, nie den Rohschlüssel.

prompt_cache_retention
enum<string>

Prompt-Cache-Aufbewahrung für OpenAI- und Azure-OpenAI-Modelle vor GPT-5.6. Hat Vorrang vor provider_options.openai.prompt_cache_retention.

Verfügbare Optionen:
in_memory,
24h
prompt_cache_options
object

Prompt-Cache-Modus und TTL für OpenAI und Azure OpenAI ab GPT-5.6 (ttl 30m, bei OpenAI auch 12h) sowie für DeepInfra (ttl 5m oder 1h). Wird für andere Anbieter entfernt.

cache_control
object

Prompt-Cache-Steuerung. Verwende type ephemeral mit einer optionalen ttl von 5m oder 1h. scope gilt nur für eine Claude-Cache-Richtlinie auf oberster Ebene. Amazon Bedrock und Google Vertex AI cachen Claude 3.7 Sonnet, 3.5 Sonnet und 3 Opus nur für 5 Minuten; dort wird die ttl entfernt, und eine entfernte 1h wird in X-Phaseo-Dropped-Params als cache_control.ttl gemeldet.

safety_identifier
string | null
meta
boolean
Standard:false
echo_upstream_request
boolean
debug
object

Gateway-Debug-Steuerungen. Diese Flags werden niemals an den Anbieter weitergeleitet.

Antwort

Antwort der Chat-Vervollständigung

id
string
nativeResponseId
string | null
object
string
created
integer
model
string
provider
string
choices
object[]
usage
object
Zuletzt geändert am 12. November 2026