Ragas – тестирование качества ответов LLM
Оценивает, насколько ответы вашей AI-модели соответствуют запросу, используя реальные данные и метрики.
⚡ Когда использовать? ✅ Автотесты генеративных моделей (GPT, LLaMA и др.) ✅ Сравнение качества ответов разных версий модели ✅ Настройка и мониторинг качества RAG (retrieval-augmented generation)
👨💻 Пример из практики: AI PM запускает RAG-бота на базе внутренних документов. С помощью Ragas он тестирует релевантность и полноту ответов, находит «галлюцинации» и улучшает пайплайн (например, фильтрацию источников и re-ranking).
🛠 Сравнение c похожими: 🔹 LangSmith → больше для дебага пайплайнов 🔹 Trulens → фокус на прозрачности и интерпретации 🔹 EvalRS → заточен под рекомендательные системы 🔹 Relevance AI → визуальные оценки и кастомные метрики
Впервые опубликовано: @ai_ossresearch.
Методология
Методология одной книгой
Как Product Owner ведёт запрос бизнеса от первого письма до результата, который можно показать: пять стадий, у каждой понятный выход. Оставьте почту, и я пришлю книгу.
Читать дальше
- CodeAbra/iai-personal-memory-engine
Тоже пусть тут лежит, это знакомый из Threads разрабатывает. Больше про разграничение персональных контекстов агента
- OpenObserve - открытая observability-платформа для логов, метрик, трейсов и RUM
Условный Elasticsearch/Datadog, только в разы дешевле по хранению и разворачивается одним бинарником.
- Headlong - OpenSource автономный AI-агент с постоянной рефлексией
Очень прожорливая штука по токенам, в авторах там мегакрутые чуваки (Konwinski - Perplexity & Co) - работает в фоне, а не только по запросу - сам выбирает, о чём думать и что…