Langfuse: как видеть prompts, tool calls, стоимость и ошибки Claude, Codex и LLM-агентов

Langfuse находится рядом с вашим AI-приложением и получает telemetry. Он не обязан маршрутизировать запросы и не заменяет OpenAI, Ollama, LiteLLM, Claude Code или Codex. Его задача — сделать их поведение наблюдаемым и измеримым.

Актуальный Python SDK — 4.15.4. Он был полностью переписан на OpenTelemetry в 2026 году. Старые примеры с Langfuse().trace() уже считаются legacy.

pip install langfuse==4.15.4

LANGFUSE_PUBLIC_KEY=pk-lf-...
LANGFUSE_SECRET_KEY=sk-lf-...
LANGFUSE_BASE_URL=https://your-langfuse.example.com

from langfuse import get_client

langfuse = get_client()

with langfuse.start_as_current_observation(
    as_type="span",
    name="process-request"
) as span:

    span.update(input={"question": "Почему упал agent?"})

    with langfuse.start_as_current_observation(
        as_type="generation",
        name="llm-response",
        model="YOUR_MODEL"
    ) as generation:

        result = "LLM response"
        generation.update(output=result)

    span.update(output={"status": "done"})

langfuse.flush()

{
  "experimental": {
    "openTelemetry": true
  },
  "plugin": [
    "@langfuse/opencode-observability-plugin@latest"
  ]
}

Plugin трассирует user turns, assistant generations, tool calls, retries, reasoning, compaction и failed generation steps. Актуальная package line на момент проверки — 0.3.0.

Dataset — это набор inputs и expected outputs. Один и тот же dataset можно прогнать через несколько моделей, prompts или версий application logic и сравнить scores.

Всё вне enterprise directories доступно по MIT, а содержимое ee/, web/src/ee/ и worker/src/ee/ использует отдельную Enterprise License.

Для простого локального чата observability platform может быть лишней. Но когда появляются tools, RAG, retries, subagents, несколько моделей и реальные пользователи, trace tree начинает экономить часы диагностики.

Особенно интересна свежая интеграция с Codex: можно увидеть, какой model call предшествовал действию, какую команду агент запустил, сколько tokens потратил и где именно возникла ошибка.