"model": "@release-summary" y su entrada, y podrás desplegar un cambio de política llamante por llamante.
La forma de la solicitud está lista para producción. Preajustes explica cómo se combinan los ajustes de un preajuste con la solicitud; esta receta trata del despliegue.
Pasa un llamante a un preajuste
1
Crea el preajuste
En Configuración → Preajustes, crea
release-summary con un prompt de sistema, los modelos aprobados, las preferencias de proveedor y parámetros predeterminados como temperature. O con una clave de administración:2
Llámalo por su nombre
Envía el preajuste como En la respuesta,
model. No hay un campo preset aparte.model es el modelo que contestó y meta.routing.selected_provider, el proveedor.3
Comprueba qué aplicó el preajuste
Abre la solicitud en Configuración → Uso → Registros. Muestra qué valores predeterminados del preajuste se aplicaron. Un modelo que no está entre los permitidos del preajuste falla con
validation_error (palabra clave preset_model_not_allowed) en lugar de enrutarse a otro.Explica una decisión de enrutamiento
Cuando una solicitud no se enrutó como esperabas, despliega Observabilidad de enrutamiento en la solicitud dentro de Configuración → Uso → Registros. Responde a tres preguntas:
Explica una decisión de enrutamiento describe cada campo.
Despliega un cambio de política
- Publica el cambio como una nueva versión del preajuste, o crea un slug nuevo para una política muy distinta.
- Pasa a ella un llamante de bajo riesgo, por ejemplo apuntándolo a
@release-summary@v4o a una etiquetacanary. - Compara sus detalles de solicitud y sus tendencias de uso con los de los demás llamantes.
- Pasa el resto de los llamantes cuando el enrutamiento coincida con lo que esperas. Para revertir, apunta la etiqueta a la versión anterior.