Мастер-класс «Добавление памяти в чат-бот»
Доклад принят в программу конференции
Целевая аудитория
ML- и backend-разработчики.
Тезисы
Ключевые темы мастер-класса:
1. зачем чат-боту память? Обзор сценариев использования;
2. основы работы с памятью и управление диалогами;
3. обзор подходов по Zero-shot-реализации памяти. Суммаризация, extract key-value, RAG, advanced-методики. Реализация своего бота с памятью;
4. как прототипировать решение? Telegram и Streamlit;
5. подключение базы для логирования диалогов;
6. демонстрация возможностей чат-бота.
NLP-разработчик с более чем 8-летним стажем, имел опыт работы и в корпорациях, и в лабораториях, и в стартапах. В данный момент Team Lead NLP команды в RnD B2C Сбербанка, занимается разработкой LLM.
Видео
Другие доклады секции
ML Edge — оптимизация обучения и инференса, дистилляция, квантизация, hardware и т.д.
