GET /v1/health para saber se o Phaseo está saudável, GET /v1/models para saber se um modelo pode ser roteado agora e o seu próprio teste para saber se uma rota atende à sua meta de confiabilidade.
Verifique a saúde atual do serviço
- Abra a página de status do Phaseo para ver os incidentes atuais e o histórico de incidentes.
- Chame
GET /v1/healthpara uma verificação mínima de saúde do Gateway. - Se uma única solicitação falhou, guarde o ID dela e inspecione o registro de atividade ou de geração antes de presumir que o serviço inteiro está fora do ar.
A página de status pública informa a saúde do serviço. No momento, o Phaseo não oferece um SLA público contratual de disponibilidade.
Confirme se um modelo pode ser roteado
O catálogo do Phaseo lista mais modelos do que o Gateway consegue rotear: uma entrada no catálogo significa que o Phaseo acompanha o modelo, não que exista uma rota pública. Por padrão,GET /v1/models retorna apenas os modelos roteáveis no momento:
availability=all para ver também os mapeamentos em breve e inativos. Envie tráfego de produção para a linha de um provedor somente quando availability_status for active e is_active_gateway for true. Consulte Status do provedor e do Phaseo para entender o que significam os ícones de status nas páginas de modelos.
active não garante disponibilidade, acesso em todas as regiões nem as mesmas condições comerciais para todos os espaços de trabalho.
Interprete as métricas de desempenho
Os dados de desempenho do Phaseo resumem solicitações reais roteadas pelo Gateway; não são um benchmark controlado de laboratório.
TTFT e velocidade de saída exigem uma resposta em streaming com uma primeira saída com conteúdo. Uma solicitação sem streaming ainda contribui com a duração e a vazão efetiva, mas não com o TTFT.
Leia cada métrica junto com a janela de tempo, a rota, a região, o modo de streaming e o percentil. A carga do provedor, o tamanho do prompt, o tamanho da saída, as novas tentativas e as condições de rede alteram o resultado.
Para as definições completas, consulte Preços e desempenho e Como o Phaseo mede latência e vazão.
Valide com a sua carga de trabalho
As métricas públicas indicam uma tendência; elas não provam que uma rota atende à sua meta de produção. Faça um teste pequeno e reproduzível antes de um lançamento:- Remova os dados sensíveis de produção e mantenha uma combinação representativa de prompts.
- Registre o ID do modelo, o endpoint, as restrições de provedor, a região, o modo de streaming e a concorrência.
- Faça repetições suficientes para comparar distribuições em vez de uma única solicitação.
- Capture a taxa de sucesso, o TTFT do Gateway, a duração no provedor, o E2E do Gateway, os tokens de saída e o custo final.
- Teste falhas de chaves inválidas, modelos inválidos, limites de taxa e provedores indisponíveis.
- Salve os IDs das solicitações e a janela de tempo exata para que outra pessoa da engenharia consiga reproduzir o resultado.
Investigue uma solicitação com falha
- Verifique o status do serviço.
- Confirme se o modelo ainda aparece na resposta padrão de
GET /v1/modelse verifique os endpoints dele. - Procure o status HTTP e o código de erro em Erros e depuração.
- Repita respostas transitórias
429e5xxcom backoff exponencial limitado; consulte Limites de taxa. - Guarde o ID da solicitação quando entrar em contato com o suporte.