Post #21

На конференции RSA в Сан-Франциско бывший директор Дирекции кибербезопасности АНБ выразил "глубокую озабоченность" стремительной эволюцией генеративных моделей Ранее сотрудник АНБ занимался защитой национальных систем безопасности США и КИИ Более того, с 2013 по 2017 год он возглавлял подразделение Tailored Access Operations (TAO), отвечающее за проведение наступательных киберопераций и сбор разведывательной информации Современные ML -модели, подобные ChatGPT, почти достигли способности не только находить уязвимости, но и автоматически разрабатывать эксплойты для конкретной задачи Вполне возможно, что "нулей" станет больше Приводится пример соревнования AI vs Human CTF, организованное Hack The Box совместно с Palisade Research В течение 48 часов автономные ИИ-агенты соперничали с профессиональными хакерами и ИБ-специалистами, решая 20 сложных задач, посвящённых криптографии и реверс-инжинирингу 5 из 8 ML-команд справились с 95 % заданий, отставая от идеального результата лишь на один флаг (19 из 20), что сравнимо с показателями лучших человеческих команд Из числа людей лишь 12 % участников сумели пройти всё задания CTF Подчеркивается, что дегенеративные ML-модели, будучи снабжены подходящей инфраструктурой, способны выступать не только в роли ассистентов для человека, но и как самостоятельные участники в задачах наступательной кибербезопасности Ключевая угроза в том, что ML способен автоматизировать и масштабировать деятельность атакующих ML может значительно ускорить процесс атаки, сокращая время на выполнение задач, которые ранее занимали часы или дни Кроме этого, граница между выявлением уязвимости и её практической эксплуатацией стремительно стирается Уже в 2025 году ML станет универсальным оружием для акторов, участвующих в кибервойнах, так и для организованных преступных транснациональных кибергруппировок Возвращаясь к ML-агентам: их деятельность постепенно выходит за рамки вспомогательной роли для человека Они начинают худо-бедно конкурировать с профессионалами в области наступательной кибербезопасности, демонстрируя способность к автономной разработке эксплойтов и адаптивному обходу защитных систем В этих условиях киберзащита должна ориентироваться не только на средства обнаружения, но и на проактивную проверку устойчивости систем к ML-ориентированным сценариям атак