Objetivo
- mantener pequeño el código de Python que hace la llamada
- usar el identificador de un ajuste predefinido para enrutar, en vez de fijar un modelo en el código
- solicitar una salida estructurada estricta
- conservar suficientes metadatos de respuesta para depurar el enrutamiento o el comportamiento de los plugins
1. Empieza con un cliente compartido
2. Traslada los valores predeterminados estables a un ajuste predefinido
Crea un ajuste predefinido en Panel -> Configuración -> Ajustes predefinidos cuando debas mantener estables estos valores para varios clientes:- el prompt del sistema
- el modelo o la lista de modelos permitidos
- las preferencias de proveedores
- la configuración de razonamiento
- la temperatura y otros parámetros de generación relacionados
- la política de caché de respuestas cuando sea importante repetir resultados deterministas
3. Solicita una forma JSON estricta
presetmantiene el enrutamiento y los prompts predeterminados fuera del código de la aplicaciónresponse_formathace explícito el contratopluginspuede recuperar JSON mal formado pero casi válido si el flujo de trabajo lo permitemetaconserva detalles de enrutamiento y ejecución de plugins para depurar
4. Analiza el JSON y registra los identificadores operativos
- el diálogo de detalles de la solicitud en el panel
- los diagnósticos de enrutamiento
- los metadatos de ejecución de plugins
5. Depura antes de añadir excepciones
Si una solicitud se enruta de forma distinta a la esperada:- abre la solicitud en Gateway -> Uso
- revisa los diagnósticos de enrutamiento y los proveedores candidatos
- revisa los metadatos de ejecución de plugins si la solicitud incluía JSON estructurado
- modifica el ajuste predefinido solo después de que los registros muestren lo que ocurrió
6. Mantén la compatibilidad con la caché si quieres reutilizar resultados
Si el ajuste predefinido activa la caché de respuestas:- mantén estable la redacción del prompt
- mantén estable el esquema de respuesta
- evita excepciones innecesarias de proveedores en cada solicitud
- evita listas de herramientas que cambien constantemente