Langfuse – платформа для мониторинга LLM-приложений из коробки

Открытая платформа для инженерии больших языковых моделей (LLM), предоставляющая инструменты для трассировки, оценки, управления подсказками и метрик, чтобы отлаживать и улучшать ваши LLM-приложения.

⚡ Когда использовать?

• Мониторинг LLM-приложений
• Управление и версиями подсказок
• Оценка качества и производительности моделей

👨‍💻 Пример из практики: Использую в проекте, где у меня нет ресурсов настраивать нормальный observability. Тут в целом архитектура типовая с ответами, токенами, сессиями, сообщениями и прочим из коробки