Tokens und Kontext
Modelle lesen und schreiben Tokens, und jedes Token, das du sendest oder bekommst, kostet Zeit und Geld.
Modelle lesen Wörter nicht so wie du. Sie zerlegen Text in Tokens: kurze Wortteile, ganze kurze Wörter, Leerzeichen und Satzzeichen. Ein langes Wort kann aus mehreren Tokens bestehen. Alles wird in Tokens gezählt, von den Grenzen dessen, was ein Modell lesen kann, bis zum Preis, den du zahlst.
Das Kontextfenster ist das, was ein Modell auf einmal lesen kann. Es enthält alles in einer Anfrage: deine Anweisungen, die bisherige Unterhaltung, Dokumente oder Suchergebnisse, Tool-Definitionen und die Antwort, die das Modell schreibt. Jede Anbieterroute hat ihre eigene Kontextlänge, die auf der Modellseite angezeigt wird.
Eingabe- und Ausgabetokens werden getrennt gezählt:
| Art | Was dazugehört |
|---|---|
| Eingabe | Anweisungen, deine Nachrichten, Dokumente, Tool-Definitionen |
| Ausgabe | Die Antwort, plus das Nachdenken eines Reasoning-Modells |
Ausgabe kostet pro Token meist mehr als Eingabe, weil das Modell jedes Ausgabetoken einzeln schreiben muss. Bei Phaseo werden Textpreise in USD pro 1 Million Tokens angezeigt, mit getrennten Preisen für Eingabe und Ausgabe. Das Feld usage jeder Antwort meldet, wie viele Tokens sie verbraucht hat.
Ausgabelimits beenden Antworten früh. Du kannst die Ausgabe mit max_tokens (Chat Completions und Messages) oder max_output_tokens (Responses) begrenzen. Das hält Kosten und Wartezeit niedrig. Ist das Limit aber zu klein, wird die Antwort abgeschnitten, und die Antwort endet mit finish_reason: "length". Das ist kein Fehler des Modells: Erhöhe das Limit oder senke den Reasoning-Aufwand.
Prompt-Caching macht wiederholte Eingaben günstiger. Wenn der Anfang deines Prompts über Anfragen hinweg gleich bleibt, etwa lange Anweisungen oder ein Referenzdokument, kann der Anbieter ihn aus seinem Cache lesen. Diese Tokens werden zum niedrigeren Cache-Lesepreis abgerechnet, und das erste Token kommt schneller. Die meisten Anbieter cachen wiederholte Anfänge von selbst; Claude cacht nur, was du mit cache_control markierst.
Prüfe dein Verständnis
Eine Antwort bricht mitten im Satz ab, und finish_reason ist "length". Was ist passiert?
Wende es an
Dein Support-Bot sendet am Anfang jeder Anfrage dasselbe 20-seitige Richtliniendokument, gefolgt von der Frage der Kundin oder des Kunden. Deine Rechnung besteht größtenteils aus Eingabetokens. Was kannst du tun?
Antwort anzeigenAntwort ausblenden
Lass die Richtlinie unverändert am Anfang des Prompts, damit der Anbieter sie cachen kann. Wiederholte Eingaben werden dann zum Cache-Lesepreis abgerechnet, und Antworten beginnen schneller. Bei Claude markierst du das Ende der Richtlinie mit cache_control. Du kannst das Dokument auch auf die Teile kürzen, auf die es ankommt.
Das Wichtigste
Weiterführende Links
Zuletzt geprüft am 17. November 2026