Skip to main content
Usa esta receta cuando un servicio de Python deba usar valores predeterminados gestionados desde el panel en lugar de repetir la configuración de prompts, enrutamiento y parámetros en cada solicitud.

Objetivo

  • mantener pequeño el código de Python que hace la llamada
  • usar el identificador de un ajuste predefinido para enrutar, en vez de fijar un modelo en el código
  • solicitar una salida estructurada estricta
  • conservar suficientes metadatos de respuesta para depurar el enrutamiento o el comportamiento de los plugins

1. Empieza con un cliente compartido

Comparte el cliente en lugar de crear uno para cada solicitud.

2. Traslada los valores predeterminados estables a un ajuste predefinido

Crea un ajuste predefinido en Panel -> Configuración -> Ajustes predefinidos cuando debas mantener estables estos valores para varios clientes:
  • el prompt del sistema
  • el modelo o la lista de modelos permitidos
  • las preferencias de proveedores
  • la configuración de razonamiento
  • la temperatura y otros parámetros de generación relacionados
  • la política de caché de respuestas cuando sea importante repetir resultados deterministas
Una vez creado el ajuste predefinido, el código de Python que hace la llamada puede mantenerse acotado.

3. Solicita una forma JSON estricta

Por qué funciona bien esta estructura:
  • preset mantiene el enrutamiento y los prompts predeterminados fuera del código de la aplicación
  • response_format hace explícito el contrato
  • plugins puede recuperar JSON mal formado pero casi válido si el flujo de trabajo lo permite
  • meta conserva detalles de enrutamiento y ejecución de plugins para depurar

4. Analiza el JSON y registra los identificadores operativos

Para los workers de Python, esto suele bastar para relacionar una línea de registro de la aplicación con:
  • el diálogo de detalles de la solicitud en el panel
  • los diagnósticos de enrutamiento
  • los metadatos de ejecución de plugins

5. Depura antes de añadir excepciones

Si una solicitud se enruta de forma distinta a la esperada:
  1. abre la solicitud en Gateway -> Uso
  2. revisa los diagnósticos de enrutamiento y los proveedores candidatos
  3. revisa los metadatos de ejecución de plugins si la solicitud incluía JSON estructurado
  4. modifica el ajuste predefinido solo después de que los registros muestren lo que ocurrió
No intentes corregir una solicitud problemática añadiendo muchas excepciones en línea. Eso suele anular las ventajas de usar ajustes predefinidos.

6. Mantén la compatibilidad con la caché si quieres reutilizar resultados

Si el ajuste predefinido activa la caché de respuestas:
  • mantén estable la redacción del prompt
  • mantén estable el esquema de respuesta
  • evita excepciones innecesarias de proveedores en cada solicitud
  • evita listas de herramientas que cambien constantemente
Si un cliente realmente necesita un comportamiento distinto, asígnale otro ajuste predefinido en vez de reducir la reutilización de caché del flujo compartido.

Guías relacionadas

Última modificación el 2 de octubre de 2026