Новые материалы по SGR - Schema-Guided Reasoning

SGR - это набор практик и патттернов от Рината Абдулина (LLM Underhood)

Одна из ключевых сложностей - заставить LLM генерировать ответы в строго шаблонизированной форме благодаря Structed Output. Это дает преимущества при работы с моделью:

• воспроизводимость ответов
• валидируемость формы
• контроль качества

Ключевые паттерны для повышения качества:

• Cascade. Каждый этап использует результат предыдущего
• Routing. Выбор одного из нескольких путей на основе условий, входных данных или промежуточных результатов.
• Cycle. Итеративное выполнение шагов с повторной проверкой/модификацией до достижения заданного условия и запуском в многопоточном режиме.

Источники:

• SGR Intro
• SGR Patterns
• SGR Examples