AiConf

Конференция завершена.

Ждем вас

на AiConf

в следующий раз!

«Стереть» из памяти: машинное разучивание как решение проблем безопасности и приватности

GenAI & Perception: генерация и распознавание текстов, музыки, изображений, видео и 3D

ML
Безопасность

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Слушатель познакомится с новой методологией «машинное разучивание» от обучения до метрик. Данный метод может стать новым словом в технике alighnment — выравнивания поведения моделей. К примеру, это позволит отучить модель вести токсичную беседу или стереть иные нерелеватные знания без итерации с RL.

Целевая аудитория

Data scientists и ML-инженеры.

Тезисы

Генеративные модели ИИ демонстрируют поразительные способности во многих сферах деятельности, но их обучение на огромном наборе данных приводит к неизбежному запоминанию нежелательной информации — от приватных данных и авторского контента до опасных знаний. Полное переобучение этих моделей часто является непозволительно дорогим и долгим процессом.

В этом докладе я расскажу о таком перспективном направлении, как машинное разучивание (Machine Unlearning) — попытке научить ИИ «забывать» то, что он знать не должен. Мы разберем основные подходы, пайплайн и метрики оценки, чтобы понять, как эффективно «стирать» данные, не ломая модель.

Dara Scientist в компании Raft. Занимается как исследованиями, так и решением различных бизнес-задач в области NLP.

Видео

Другие доклады секции

GenAI & Perception: генерация и распознавание текстов, музыки, изображений, видео и 3D