Post #471

#AI Взлом DeepSeek-R1: угроза безопасности ИИ-моделей В январе 2025 года компания по кибербезопасности KELA сообщила об успешном взломе модели искусственного интеллекта DeepSeek-R1. Исследователи смогли обойти механизмы безопасности модели, используя методы, известные более двух лет, такие как «Evil Jailbreak». Это позволило им заставить модель генерировать вредоносные выходные данные, включая разработку программ-вымогателей и инструкции по созданию опасных веществ. В ответ на эти инциденты компания DeepSeek временно ограничила регистрацию новых аккаунтов, ссылаясь на «масштабные кибератаки» на свои сервисы. Существующие пользователи могут продолжать использовать платформу без ограничений. Эти события подчеркивают необходимость усиления мер безопасности в разработке и использовании моделей искусственного интеллекта, особенно учитывая их потенциальную уязвимость к различным методам взлома.