Post #547

🟪Названа одна из главных угроз для предприятий в части технологий ИИ 🚨 Генеральный директор Федерального центра прикладного развития искусственного интеллекта Эдуард Шантаев выступил на сессии «Искусственный Интеллект: возможности, угрозы и вызовы в промышленных отраслях экономики» в рамках выставки «ИННОПРОМ-2024», которая проходит в Екатеринбурге. Эксперт рассказал об угрозах для предприятий, применяющих современные цифровые решения. Эти угрозы были выявлены в результате исследования, проведенного Центром в конце 2023 года и собравшего обратную связь от предприятий, использующих технологии ИИ. ⚡️ Одна из главных угроз — целенаправленные атаки на ML-модели (модели машинного обучения), которые находятся в открытом доступе в сети. В результате таких атак в лучшем случае эти модели перестают работать, а в худшем — ломаются бизнес-процессы и системы управления на предприятиях. Еще одна сторона этой проблемы — обучение на открытых данных, которое также может привести к негативным последствиям, — рассказал Эдуард Шантаев. ➡️ Эксперт привел в пример предприятия химической промышленности, которые активно используют ИИ в части подбора формул, синтеза, технического описания. Технические специалисты часто упрощают эту задачу и пользуются генеративной моделью, но при этой нет гарантий, что она не заражена, — отметил Эдуард Шантаев, подчеркнув важность безопасности инструментов ИИ. #новости#мероприятия#ИННОПРОМ