Tokens y contexto
Los modelos leen y escriben tokens, y cada token que envías o recibes añade tiempo y coste.
Los modelos no leen las palabras como tú. Dividen el texto en tokens: trozos cortos de palabras, palabras cortas enteras, espacios y signos de puntuación. Una palabra larga puede ser varios tokens. Todo se cuenta en tokens, desde los límites de lo que un modelo puede leer hasta el precio que pagas.
La ventana de contexto es cuánto puede leer un modelo de una vez. Contiene todo lo que hay en una solicitud: tus instrucciones, la conversación hasta ese momento, los documentos o resultados de búsqueda, las definiciones de herramientas y la respuesta que escribe el modelo. Cada ruta de proveedor tiene su propia longitud de contexto, que aparece en la página del modelo.
Los tokens de entrada y de salida se cuentan por separado:
| Tipo | Qué incluye |
|---|---|
| Entrada | Instrucciones, tus mensajes, documentos, definiciones de herramientas |
| Salida | La respuesta, más el razonamiento de un modelo de razonamiento |
La salida suele costar más por token que la entrada, porque el modelo tiene que escribir cada token de salida de uno en uno. En Phaseo, los precios de texto se muestran en USD por cada millón de tokens, con precios de entrada y salida separados. El campo usage de cada respuesta indica cuántos tokens ha usado.
Los límites de salida cortan las respuestas antes de tiempo. Puedes limitar la salida con max_tokens (Chat Completions y Messages) o max_output_tokens (Responses). Así reduces el coste y el tiempo de espera. Pero si el límite es demasiado bajo, la respuesta se corta y termina con finish_reason: "length". No es un fallo del modelo: sube el límite o baja el esfuerzo de razonamiento.
La caché de prompts abarata la entrada repetida. Si el principio de tu prompt es el mismo en todas las solicitudes, como unas instrucciones largas o un documento de referencia, el proveedor puede leerlo de su caché. Esos tokens se facturan a la tarifa de lectura de caché, que es más baja, y el primer token llega antes. La mayoría de los proveedores guardan en caché los inicios repetidos por su cuenta; Claude solo guarda en caché lo que marcas con cache_control.
Comprueba lo que has aprendido
Una respuesta se detiene a mitad de una frase y finish_reason es "length". ¿Qué ha pasado?
Ponlo en práctica
Tu bot de soporte envía el mismo documento de políticas de 20 páginas al principio de cada solicitud, seguido de la pregunta del cliente. Tu factura es casi toda de tokens de entrada. ¿Qué puedes hacer?
Mostrar la respuestaOcultar la respuesta
Mantén las políticas al principio del prompt, sin cambios, para que el proveedor pueda guardarlas en caché. Así la entrada repetida se factura a la tarifa de lectura de caché y las respuestas empiezan antes. En Claude, marca el final de las políticas con cache_control. También puedes recortar el documento a las partes que importan.
Idea clave
Enlaces relacionados
Revisado por última vez el 17 de noviembre de 2026