Всеволод Викулин на AiConf 2025

LLM в вашем проде: инструкция по применению

GenAI & Perception: генерация и распознавание текстов, музыки, изображений, видео и 3D

Google Outlook Apple

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Максимально практический доклад от том, как спроектировать эффективное (и про это в докладе отдельный трек) и устойчивое к галлюцинациям (про это тоже) LLM-приложение или сервис. Отдельно освещается, как оценивать качество решения и итеративно его улучшать.

Целевая аудитория

Технические специалисты и продуктовые менеджеры, которые хотят внедрить LLM в продукт.

Тезисы

Этот доклад — гайд внедрения LLM в ваш продукт. В нем я структурировал все методы работы с LLM, которые я усвоил за 3 года практики.

Вы узнаете:
* когда стоит использовать LLM, а когда обойтись более простыми моделями;
* как сэкономить деньги на внедрении;
* как должна выглядеть архитектура сервиса с LLM;
* как оценить качество;
* какие есть методы улучшения LLM.

Всеволод Викулин

Яндекс

Закончил МГУ (кафедра математических методов прогнозирования). В студенчестве выигрывал соревнования по анализу данных. 8 лет внедряет модели машинного обучения в продукты. Делал ранжирование в Поиске Mail.Ru, делал рекомендательные системы на Главной Mail.Ru, руководил отделом NLP в Марусе. Сейчас руководитель службы в Поиске Яндекса, отвечает за релизы Нейро. Запускал Нейро на Поиск в октябре 2024 года.