Артем Карасюк на AiConf 2024

Как мы развернули трансформер на событиях интерфейса операторов поддержки

Рекомендательные системы и поиск

Google Outlook Apple

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Инструменты для операторов службы поддержки при взаимодействии с пользователем — всегда актуальный трек для прикладного применения ML-моделей. В докладе коллеги расскажут, как переход на более совершенные трансформерные модели для ранжирования интентов пользователя дает осязаемый бизнес-профит.

Целевая аудитория

Middle-Senior Machine Learning Engineer, смежно может быть интересно техлидам ML-команд и ML-продактам.

Тезисы

На докладе подробно разберем, как завели трансформер на событиях в интерфейсе оператора и как его используем в бою.

Исторически сложилось простое решение на Top Popular + марковские цепи на открытых интентах. Решение плохо масштабировалось и имело ряд проблем, поэтому было решено использовать трансформер.

В процессе деплоя трансформера под небольшой нагрузкой проблем не было, однако нам было интересно, как сработает подход NLP к событиям интерфейса оператора. И он сработал. Однако в бою поймали пару непонятных моментов, которые пришлось дебажить.

Артем Карасюк

Т-Банк

Техлид в команде Support Journey, персонализирует и улучшает поддержку пользователей. Командой реализуют нагруженные сервисы, в которых сервят модели.
Больше 3 лет занимается бэкендом на Python и внедрением ML-фич в продакшн.
По большей части связывает требования бизнеса и реализует их в бою. На этапе проектирования и экспериментов понимает, с какими проблемами на продакшне столкнутся, и превентивно их решает.
Интересны NLP и работа со звуком, в частности, музыка.

Т-Банк

Команда Т-Банка — это разработчики, тестировщики, SRE-инженеры, архитекторы, аналитики, продакт-менеджеры, дизайнеры и другие специалисты. Вместе они создают финтех-продукты, которыми пользуются около 40 миллионов клиентов. Т-Банк развивает IT-индустрию, поддерживает комьюнити и делится экспертизой.