Быстро делаем вашу AI систему расширяемой и поддерживаемой с помощью DSPy
Программный комитет ещё не принял решения по этому докладу
Целевая аудитория
Тезисы
Большинство AI-проектов (более 90%) не достигают production, и остаются в пилоте. Главная проблема — промпты как инженерная абстракция: изменение одного слова ломает всю систему, новые техники выходят ежедневно, а смена модели требует полного переписывания.
**DSPy** — фреймворк от Стэнфорда, который решает эти проблемы: вместо написания промптов вы **программируете** LLM-приложения, используя декларативные сигнатуры, AI-алгоритмы и автоматическую оптимизацию.
**Что вы узнаете:**
- Почему промпты — "сломанная" абстракция для production-систем
- 5 уровней DSPy: от сигнатур до оптимизаторов
- **GEPA** — Genetic-Pareto оптимизатор (часто +20% к точности "из коробки")
- **RecursiveLanguageModules** — один из последних DSPy модулей. Эффективная работа с контекстами >1M токенов
- Реальные примеры: оценка знаний, стилизация диалогов, извлечение сущностей
**Кому будет полезно:**
- ML-инженерам, создающим production LLM-системы
- AI-исследователям, интересующимся оптимизацией промптов
- Разработчикам, уставшим от ручного тюнинга промптов
Занимается разработками в области профессионального развития Личности. Темы, которые интересуют Николая: результативные коллективы, личная эффективность специалиста, управление знаниями, быстрое освоение новых предметных областей.
Автор издательства livrezon : https://livrezon.com/
В основном сейчас занимается независимыми исследованиями и freelance-заказами.
Видео
Другие доклады секции
LLM
