LLM в вашем проде: инструкция по применению
Доклад принят в программу конференции
Целевая аудитория
Тезисы
Этот доклад - гайд внедрения LLM в ваш продукт.
В нем я структурировал все методы работы с LLM, которые я усвоил за 3 года практики. Вы узнаете:
- Когда стоит использовать LLM, а когда обойтись более простыми моделями?
- Как сэкономить деньги на внедрении?
- Как должна выглядеть архитектура сервиса с LLM?
- Как оценить качество?
- Какие есть методы улучшения LLM?
Закончил МГУ (кафедра математических методов прогнозирования). В студенчестве выигрывал соревнования по анализу данных. 8 лет внедряет модели машинного обучения в продукты. Делал ранжирование в Поиске Mail.Ru, делал рекомендательные системы на главной Mail.Ru, руководил отделом NLP в Марусе. Сейчас руководитель службы в Поиске Яндекса, отвечает за релизы Нейро. Запускал Нейро на Поиск в октябре 2024 года.
Видео
Другие доклады секции
GenAI & Perception: генерация и распознавание текстов, музыки, изображений, видео и 3D
