Langfuse mit dem OpenAI SDK
Behalte den OpenAI-Wrapper von Langfuse und gib dem gekapselten Client die Base URL von Phaseo:LangSmith mit LangChain
Nutze dieChatOpenAI-Einrichtung aus LangChain und aktiviere LangSmith mit den üblichen Umgebungsvariablen von LangChain:
OpenTelemetry
Wenn dein Framework bereits OpenTelemetry-Spans ausgibt, brauchst du keinen speziellen Exporter. Füge diesen Anfragekontext selbst zu deinen Spans hinzu:- Modell-ID;
- Endpunkt, etwa
responsesoderchat.completions; - die Phaseo-Anfrage-ID, aus den Antwortmetadaten oder den Protokollen;
- den Anbieter, der die Anfrage bedient hat, wenn Antwortmetadaten aktiviert sind.