Вадим Шубин на AiConf 2025

"Стереть" из памяти: машинное разучивание как решение проблем безопасности и приватности

GenAI & Perception: генерация и распознавание текстов, музыки, изображений, видео и 3D

Безопасность

Google Outlook Apple

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Слушатель познакомится с новой методологией "машинное разучивание" от обучения до метрик. Данный метод может стать новым словом в технике alighnment – выравнивания поведения моделей. К примеру, это позволит отучить модель вести токсичную беседу или стереть иные нерелеватные знания без итерации с RL.

Целевая аудитория

Data scientists и ML-инженеры

Тезисы

Генеративные модели ИИ демонстрируют поразительные способности во многих сферах деятельности, но их обучение на огромном наборе данных приводит к неизбежному запоминанию нежелательной информации – от приватных данных и авторского контента до опасных знаний. Полное переобучение этих моделей часто является непозволительно дорогим и долгим процессом.

В этом докладе я расскажу о таком перспективном направлении, как машинное разучивание (Machine Unlearning) – попытке научить ИИ "забывать" то, что он знать не должен. Мы разберем основные подходы, пайплайн и метрики оценки, чтобы понять, как эффективно "стирать" данные, не ломая модель.

Вадим Шубин

Raft

Dara Scientist в компании Raft. Занимаюсь как исследованиями, так и решаю различные бизнес-задачи в области NLP.