Integrar Gateway en cargas de producción es sencillo si estableces una buena base. Sigue estas recomendaciones para mejorar la resiliencia, la seguridad y el mantenimiento.
Arquitectura
- Aísla la lógica de los proveedores. Encapsula las llamadas a Gateway en un servicio o SDK específico para limitar los cambios.
- Transmite las respuestas cuando sea posible. Reduce la latencia de los asistentes enviando tokens a la interfaz a medida que llegan.
- Agrupa los trabajos no críticos. Pon en cola las generaciones o evaluaciones en segundo plano para suavizar los picos de tráfico.
Seguridad
- En producción, guarda las claves de API en gestores de secretos (AWS Secrets Manager, Doppler o 1Password), no en archivos
.env.
- Firma las solicitudes a tus propias API para que las aplicaciones cliente nunca expongan las claves de Gateway.
- Registra las claves solo de forma truncada (por ejemplo,
sk_prod_abcd...) para evitar revelar credenciales.
Fiabilidad
- Implementa retroceso exponencial con variación aleatoria para todos los errores reintentables (HTTP 429 o 5xx).
- Antes de volver a intentar solicitudes limitadas, respeta el encabezado
Retry-After.
- Supervisa los metadatos de los proveedores para detectar cambios automáticos de un proveedor a otro.
Observabilidad
Colaboración
- Documenta las plantillas de instrucciones, los parámetros de entrada y el tratamiento de resultados en la wiki interna.
- Comparte paneles que destaquen los cambios en las evaluaciones comparativas y su impacto en el producto.
- Fomenta revisiones periódicas con los equipos de producto, investigación y soporte para mantener el comportamiento alineado.
Lecturas adicionales
Última modificación el 2 de octubre de 2026
