Vast.ai – облачный сервис аренды GPU
⚡ Когда использовать? ✅ Proof Of Concept - быстро поднять ресурсы и проверить модельку ✅ Обучение ML-моделей – Дешевле, чем AWS, Google Cloud и Azure ✅ Анализ больших данных – Гибкое масштабирование мощностей
👨💻 Пример из практики Проект не может использовать OPENAI из-за корп. данных, поднимать свои ресурсы - сложно, брать Яндекс, Сбер или РФ безумно дорого.
VAST - отличное решение получить хороший ресурс без вложений, тк поднимать и обеспечивать GPU - дорогое удовольствие. Vast A-100 карточка стоит 1.1$/час, Яндекс и прочие раза в 3 дороже.
Впервые опубликовано: @ai_ossresearch.
Методология
Методология одной книгой
Как Product Owner ведёт запрос бизнеса от первого письма до результата, который можно показать: пять стадий, у каждой понятный выход. Оставьте почту, и я пришлю книгу.
Читать дальше
- CodeAbra/iai-personal-memory-engine
Тоже пусть тут лежит, это знакомый из Threads разрабатывает. Больше про разграничение персональных контекстов агента
- OpenObserve - открытая observability-платформа для логов, метрик, трейсов и RUM
Условный Elasticsearch/Datadog, только в разы дешевле по хранению и разворачивается одним бинарником.
- Headlong - OpenSource автономный AI-агент с постоянной рефлексией
Очень прожорливая штука по токенам, в авторах там мегакрутые чуваки (Konwinski - Perplexity & Co) - работает в фоне, а не только по запросу - сам выбирает, о чём думать и что…