Evidently AI – контроль качества ML-моделей

Удобный инструмент, чтобы быстро проанализовать AI, есть готовые пресеты для аналитики и удобные отчеты.
⚡ Когда использовать? ✅ Запускаете ML-модель в прод и боитесь “сломанных” предсказаний ✅ Новые модели стали хуже предсказывать чем прошлые ✅ Дополнительные данные для A/B тестов (почему метрика выросла/упала) ✅ Построить борды метрик ML
👨💻 Задача Отладка ML модели и анализ деградации качества (например, прирост на beta, но просадка на проде)
- Без инструмента
- Скачиваем Reference/Current выборки
- Пишем скрипты для расчёта метрик
- Сравниваем фичи, дистрибуции, ошибки вручную
- Собираем отчёт в Python тетрадки для объяснения
- Выводим отчет в презентацию/HTML/скриншоты
- С инструментом
- Скачиваем Reference/Current выборки
- Запускаем анализ DataDriftPreset(), ClassificationPreset() - генерируется отчет .html
Useful links:
- Documentation
- [Исходный код] (https://github.com/evidentlyai/evidently)
Впервые опубликовано: @ai_ossresearch.
Методология
Методология одной книгой
Как Product Owner ведёт запрос бизнеса от первого письма до результата, который можно показать: пять стадий, у каждой понятный выход. Оставьте почту, и я пришлю книгу.
Читать дальше
- CodeAbra/iai-personal-memory-engine
Тоже пусть тут лежит, это знакомый из Threads разрабатывает. Больше про разграничение персональных контекстов агента
- OpenObserve - открытая observability-платформа для логов, метрик, трейсов и RUM
Условный Elasticsearch/Datadog, только в разы дешевле по хранению и разворачивается одним бинарником.
- Headlong - OpenSource автономный AI-агент с постоянной рефлексией
Очень прожорливая штука по токенам, в авторах там мегакрутые чуваки (Konwinski - Perplexity & Co) - работает в фоне, а не только по запросу - сам выбирает, о чём думать и что…