OpenAILike com sua chave do Phaseo e api_base="https://api.phaseo.app/v1" e defina-o como padrão do LlamaIndex, para que a geração nos seus fluxos de RAG passe pelo Phaseo.
Instale
Aponte o LlamaIndex para o Phaseo
OpenAILike é a classe do LlamaIndex para APIs de terceiros compatíveis com OpenAI.
Use em um índice
Limitações conhecidas
- Os padrões do LlamaIndex não apontam para o Phaseo. Defina explicitamente os modelos de geração e de embeddings.
- Para embeddings do Phaseo, configure o modelo de embeddings com um ID de modelo do Phaseo e a mesma URL base.