Post #35

👀ИИ с политической цензурой: китайский DeepSeek создаёт уязвимый код Исследование CrowdStrike показало, что китайская нейросеть DeepSeek генерирует код разного качества в зависимости от заказчика. Если в запросе фигурируют нейтральные темы или США, код получается чистым и безопасным. Но стоит упомянуть темы, которые не нравятся властям КНР (например, Тайвань, Тибет, Синьцзян или Фалуньгун), как качество кода резко падает, и он становится уязвимым. Специалисты выяснили, что в таких случаях нейросеть часто создаёт код с критическими уязвимостями. Так, для запросов от имени "нежелательных" организаций вероятность появления серьёзных ошибок, таких как SQL-инъекции и переполнение буфера, доходит до 50% и более. При этом в нейтральных запросах этот показатель не превышает 5%. Исследователи считают, что это не злой умысел, а результат работы встроенных идеологических фильтров или некачественных обучающих данных. Впервые зафиксировано, что геополитика влияет на безопасность кода. ИИ становится инструментом политической дискриминации, предлагая не просто плохие, а потенциально опасные решения. Это создаёт серьёзные риски для информационной безопасности во всём мире, ведь уязвимый код может попасть в реальные проекты и быть использован злоумышленниками. #ИИ#Китай#ИнформационнаяБезопасность @SecLabnews