Lektion 2 von 3 · 7 Minuten

Tokens und Kontext

Modelle lesen und schreiben Tokens, und jedes Token, das du sendest oder bekommst, kostet Zeit und Geld.

Modelle lesen Wörter nicht so wie du. Sie zerlegen Text in Tokens: kurze Wortteile, ganze kurze Wörter, Leerzeichen und Satzzeichen. Ein langes Wort kann aus mehreren Tokens bestehen. Alles wird in Tokens gezählt, von den Grenzen dessen, was ein Modell lesen kann, bis zum Preis, den du zahlst.

Das Kontextfenster ist das, was ein Modell auf einmal lesen kann. Es enthält alles in einer Anfrage: deine Anweisungen, die bisherige Unterhaltung, Dokumente oder Suchergebnisse, Tool-Definitionen und die Antwort, die das Modell schreibt. Jede Anbieterroute hat ihre eigene Kontextlänge, die auf der Modellseite angezeigt wird.

Eingabe- und Ausgabetokens werden getrennt gezählt:

ArtWas dazugehört
EingabeAnweisungen, deine Nachrichten, Dokumente, Tool-Definitionen
AusgabeDie Antwort, plus das Nachdenken eines Reasoning-Modells

Ausgabe kostet pro Token meist mehr als Eingabe, weil das Modell jedes Ausgabetoken einzeln schreiben muss. Bei Phaseo werden Textpreise in USD pro 1 Million Tokens angezeigt, mit getrennten Preisen für Eingabe und Ausgabe. Das Feld usage jeder Antwort meldet, wie viele Tokens sie verbraucht hat.

Ausgabelimits beenden Antworten früh. Du kannst die Ausgabe mit max_tokens (Chat Completions und Messages) oder max_output_tokens (Responses) begrenzen. Das hält Kosten und Wartezeit niedrig. Ist das Limit aber zu klein, wird die Antwort abgeschnitten, und die Antwort endet mit finish_reason: "length". Das ist kein Fehler des Modells: Erhöhe das Limit oder senke den Reasoning-Aufwand.

Prompt-Caching macht wiederholte Eingaben günstiger. Wenn der Anfang deines Prompts über Anfragen hinweg gleich bleibt, etwa lange Anweisungen oder ein Referenzdokument, kann der Anbieter ihn aus seinem Cache lesen. Diese Tokens werden zum niedrigeren Cache-Lesepreis abgerechnet, und das erste Token kommt schneller. Die meisten Anbieter cachen wiederholte Anfänge von selbst; Claude cacht nur, was du mit cache_control markierst.

Prüfe dein Verständnis

Eine Antwort bricht mitten im Satz ab, und finish_reason ist "length". Was ist passiert?

Wende es an

Dein Support-Bot sendet am Anfang jeder Anfrage dasselbe 20-seitige Richtliniendokument, gefolgt von der Frage der Kundin oder des Kunden. Deine Rechnung besteht größtenteils aus Eingabetokens. Was kannst du tun?

Antwort anzeigen

Lass die Richtlinie unverändert am Anfang des Prompts, damit der Anbieter sie cachen kann. Wiederholte Eingaben werden dann zum Cache-Lesepreis abgerechnet, und Antworten beginnen schneller. Bei Claude markierst du das Ende der Richtlinie mit cache_control. Du kannst das Dokument auch auf die Teile kürzen, auf die es ankommt.

Das Wichtigste

Alles wird in Tokens gezählt: Eingabe und Ausgabe haben getrennte Preise pro Million, Ausgabelimits können Antworten abschneiden, und Caching macht wiederholte Eingaben günstiger.

Weiterführende Links

Dein Fortschritt wird in diesem Browser gespeichert.

Zuletzt geprüft am 17. November 2026