AiConf

LLM все чаще используются в качестве сервиса. Мы привыкли к высокому качеству проприетарных моделей от OpenAI и Anthropic, но открытые модели часто не достигают такого уровня «из коробки». В таких случаях специалисты по NLP вынуждены применять различные методы для достижения необходимого качества генерации.

В этом докладе я поделюсь нашим опытом и последними достижениями в этой области. Покажу, в каких проектах лучше использовать цепочки из промптов, а когда — агентные системы.

Мы рассмотрим, как разделение задач на подзадачи, контекстуализация запросов и механизмы обратной связи помогают создать гибкие и качественные сервисы на основе LLM.