Post #1382

📩 Исследователи ОЭСР опубликовали работу по оценке рисков, связанных с обновлениями "универсальных" ИИ-моделей. Отмечается, что в отличие от громких релизов новых версий, менее значимые апдейты часто остаются без внимания пользователей, регуляторов и разработчиков ИИ-приложений. В то же время, такие изменения могут содержать серьезные сдвиги как в поведении, так и в техническом оснащении (бэкенде). Предметом анализа стали 143 объявления (changelogs) от Anthropic, DeepMind, Meta, Mistral и OpenAI. Авторы предлагают регуляторам ввести отдельные категории, подразделяющие значимость апдейтов: - новый функционал или выход на новые платформы должны приводить к комплексной проверке риска; - улучшения быстродействия и обновления средств разработчика следует проверять по упрощенной схеме или никак; - апдейты безопасности надо поощрять. 📌Комментарий экспертов Центра ИИ МГИМО: ИИ развивается семимильными шагами, и регуляторы типично не успевают за новыми продуктами или рыночными трендами. Все оценки и предложения в данной работе звучат обоснованно, но практически реализуемы только там, где механизмы надзора достаточно развиты (ЕС, Китай). Пока основным приоритетом государств и корпораций остается победа в "гонке ИИ", предложенный подход к регулярной оценке рисков вряд ли будет поддержан игроками рынка, кроме тех, кто сделал ставку на безопасность как часть бренда, e.g. Anthropic.