Migração do LiteLLM

O que muda

Configuração	Antes	Depois
URL base	Seu proxy LiteLLM	`https://api.phaseo.app/v1`
Chave de API	Chave do proxy LiteLLM	`PHASEO_API_KEY`
Aliases de modelos	Configuração do LiteLLM	IDs de modelos do Phaseo ou aliases do aplicativo
Padrões de roteamento	Configuração do LiteLLM	Presets e configurações de roteamento do Phaseo

Faça o inventário da configuração do proxy

Liste todos os aliases de modelos, fallbacks, regras de provedores, políticas de repetição, orçamentos, callbacks e variáveis de ambiente usados na implantação atual do LiteLLM. Identifique quais configurações são políticas compartilhadas e quais pertencem a um único aplicativo.

Substitua o endpoint do proxy

Mantenha o código de solicitação compatível com OpenAI e altere a URL base e a chave.

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.PHASEO_API_KEY,
  baseURL: "https://api.phaseo.app/v1",
});

const response = await client.chat.completions.create({
  model: "openai/gpt-4.1-mini",
  messages: [{ role: "user", content: "Reply with: migration ready" }],
});

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["PHASEO_API_KEY"],
    base_url="https://api.phaseo.app/v1",
)

curl https://api.phaseo.app/v1/chat/completions \
  -H "Authorization: Bearer $PHASEO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-4.1-mini",
    "messages": [{"role": "user", "content": "Reply with: migration ready"}]
  }'

Mapeie aliases e regras de roteamento

Verifique cada modelo de produção com GET /v1/models. Se os clientes dependerem de aliases internos, normalize-os em um único limite do aplicativo em vez de editar cada solicitação.Mova prompts, parâmetros e restrições de provedores reutilizáveis para Presets. Configure a classificação de provedores e os fallbacks em Roteamento e fallbacks.

Valide os fluxos de produção

Teste streaming, ferramentas, saídas estruturadas, novas tentativas, mapeamento de erros e qualquer observabilidade baseada em callbacks gerenciada pela implantação do LiteLLM. Compare latência, saída, uso de tokens e custo antes de transferir o tráfego gradualmente.

Lista de verificação da migração

URLs, chaves e dependências de implantação do LiteLLM foram identificadas.

Cada modelo e alias de produção tem um mapeamento explícito no Phaseo.

Os padrões compartilhados foram movidos para presets ou para um único limite do aplicativo.

Streaming, ferramentas e saídas estruturadas passam no staging quando usados.

Callbacks e telemetria necessários têm uma substituição planejada.

A reversão continua limitada à alteração do endpoint e da chave.

Visão geral

Modelos e roteamento

Recursos

Integrações

Espaços de trabalho e acesso

Confiabilidade e operações

Plataforma e pesquisa

Guias de migração

Comunidade

Migração do LiteLLM

O que muda

Lista de verificação da migração

Próximas etapas

​O que muda

​Lista de verificação da migração

​Próximas etapas

O que muda

Lista de verificação da migração

Próximas etapas