Post #1062

Пределы ИИ: математический взгляд на ошибки и уязвимости нейросетей 🧠🚫 🤩 8 апреля в ИППИ РАН в рамках цикла мероприятий к 65-летию Института состоялся семинар профессора Сколтеха, эксперта в области ИИ Ивана Юрьевича Тюкина. Тема доклада — «Пределы искусственного интеллекта» — вызвала большой интерес профессионального сообщества. Сегодня, когда ИИ активно внедряется в самые разные сферы, особенно важно понимать его фундаментальные ограничения и источники ошибок. ⚡️ В центре внимания оказались «галлюцинации» больших языковых моделей, а также устойчивость алгоритмов к adversarial-атакам. Иван Юрьевич представил результаты исследований, которые помогают лучше понять геометрию ошибок ИИ. Обсуждались и идеи стохастической разделимости, объясняющие, почему даже очень точные модели могут давать сбои в, казалось бы, простых ситуациях. Дискуссия получилась живой и продолжилась после официальной части. Такие встречи укрепляют научную преемственность и создают основу для новых междисциплинарных исследований. Благодарим Ивана Юрьевича за глубокий доклад и яркую дискуссию! 🎬 Запись семинара можно посмотреть по ссылке 📌Ключевые материалы из доклада: 📂База данных инцидентов ИИ (ошибки и кейсы в реальном мире): https://incidentdatabase.ai/ 📄Почему Wasserstein GAN работают, когда они «ошибаются»: arXiv:2103.01678 📄Как адверсарные атаки разрушают стабильные классификаторы: arXiv:2309.03665 (Neural Networks, 2024)