Post #7576

Крупнейшие IT-компании решили заранее занять оборону в новой фазе кибервойны, где уязвимости в коде начинают искать уже не люди, а очень сильные ИИ-модели. Для этого Amazon Web Services, Anthropic, Apple, Google, Microsoft, NVIDIA и ещё ряд участников запустили Project Glasswing – инициативу, которая должна помочь защитить критически важное ПО до того, как похожие инструменты массово окажутся в руках атакующих. Об этом пишет SecurityLab. Внутренние испытания новой модели Anthropic под названием Claude Mythos Preview показали, что она умеет находить и использовать программные уязвимости на уровне, который уже превосходит почти всех людей, кроме самых сильных специалистов по этой теме. Для отрасли это выглядит как очень неприятный сигнал: инструменты такого класса перестают быть далёкой теорией и начинают влиять на реальную безопасность. В компаниях считают, что рубеж уже пройден. Речь идёт о моменте, когда ИИ может резко снизить порог входа в кибератаки, увеличить их масштаб и сделать их сложнее. Главная тревога связана с тем, что такие возможности довольно скоро могут выйти за пределы контролируемой среды и начать распространяться шире. Project Glasswing строится на прямой идее: использовать наступательные возможности ИИ в оборонительных целях. Участники проекта будут применять модель для поиска слабых мест, тестирования систем и устранения найденных дыр до того, как ими воспользуется кто-то другой.