Post #811

Claude нашёл уязвимости в ядре Linux, LLM догоняют людей в кибербезе Николас Карлини из Anthropic- один из лучших исследователей безопасности AML мире говорит так: «Эти модели - лучшие исследователи уязвимостей, чем я Вероятно, они пока не лучше всех вас, но в какой-то момент станут Если эта тенденция продолжится ещё хотя бы год, они, вероятно, станут лучшими исследователями уязвимостей, чем все И я не знаю, как будет выглядеть этот мир Довольно страшно жить в мире, где можно автоматически находить ошибки, которые раньше могли найти только один-два лучших специалиста в мире». «Я никогда раньше не находил таких ошибок в своей жизни Это невероятно, невероятно сложно С помощью языковых моделей у меня их много Это меня довольно сильно пугает» Время удвоения возможностей LLM - каждые 4 месяца Sonnet 4.5 и Opus 4.1 такие ошибки почти не находили «Языковые модели по значимости находятся примерно на том же уровне, что и появление интернета» Переходный период - вот чего он боится: «В долгосрочной перспективе защитники, вероятно, выиграют Но в переходный период между сейчас и тогда, вероятно, всё будет очень плохо»