Post #2546

Об уязвимости моделей искусственного интеллекта 30 мая в Тульском государственном университете состоялось последнее в этом учебном году мероприятие в рамках цикла научно-популярных лекций для молодёжи «Научное кафе», поддержанного грантом Правительства Тульской области. Алексей Зайцев, кандидат физико-математических наук, руководитель лаборатории Исследовательского центра в сфере искусственного интеллекта по направлению оптимизации управленческих решений в целях снижения углеродного следа АНОО ВО «Сколковский институт науки и технологий» занимается разработкой новых методов обработки последовательных данных и повышением надёжности моделей глубокого обучения. Студентам и преподавателям ТулГУ молодой учёный прочитал лекцию об уязвимости моделей искусственного интеллекта. Модели на основе искусственного интеллекта (нейронные сети) рассказал он, часто лучше человека распознают картинки, речь и понимают язык. Они так же, ка люди, подвержены атакам на сенсорные системы. Атаки на модели, сообщил он, происходят из-за многообразия изображений и текстов, а также из-за структуры самой модели. Это обусловлено тем, что в первом случае легко найти объекты, которых нет в обучающей выборке, а во втором — легко понять, как изменить объект. Чтобы защититься от атак на модели, пояснил гость, необходимо скрыть модель от внешних людей в интернете и ограничить число раз, когда человек может её использовать. Модели обработки изображений и текста, подчеркнул Алексей Алексеевич, уязвимы для злонамеренных (адверсальных) атак. Но чем меньше известно о модели, тем её труднее атаковать. Завершающую часть своего выступления молодой учёный посвятил деятельности возглавляемой им лаборатории. Он рассказал об атаках на модели обработки транзакционных данных и защиты от них, атаках на модели в физическом мире, генеративных атаках на модели обработки естественного языка и машинного перевода, улучшении эффективности защиты путём дообучения модели. #наукавТуле#НОЦТулаТЕХ#ТулГУ