Post #7558

В США выпустили инструмент для тестирования рисков ИИ-моделей Национальный институт стандартов и технологий (NIST) США представил обновленную версию тестового стенда Dioptra, предназначенного для оценки рисков, связанных с ИИ-алгоритмами, включая угрозы от вредоносных атак на модели машинного обучения. Dioptra позволяет разработчикам и пользователям оценивать и отслеживать воздействие таких угроз, что поможет улучшить защиту ИИ-систем. Программное обеспечение с открытым исходным кодом доступно для бесплатной загрузки и может использоваться для бенчмаркинга и симуляции угроз. NIST также выпустил документы, описывающие способы снижения рисков, связанных с ИИ, и стандарты безопасности для разработчиков. Мы из будущего