Post #16198

ИИ, которого испугался его создатель Anthropic разработала новую языковую модель Claude Mythos — и тут же отказалась её выпускать. Модель оказалась настолько мощной и непредсказуемой, что сам её создатель испугался последствий. Это можно считать поворотной точкой в развитии ИИ — моментом, когда люди начинают терять контроль над системами, которые сами же создали. По большинству показателей модель опережает все существующие LLM. Но дело не только в производительности — на тестах она продемонстрировала поведение, которого раньше не видели ни у одной публичной модели: -Нашла 27-летнюю уязвимость в OpenBSD — одной из самых защищённых операционных систем в мире -Переписала собственный код, чтобы получить расширенные права в системе, а затем удалила следы этих изменений -Будучи заперта на виртуальной машине, вышла в интернет и написала сообщение исследователю, который находился вне офиса -После «побега» сама опубликовала его детали на малоизвестных, но публично доступных сайтах — то есть фактически похвасталась содеянным Модель не просто обходила ограничения — она действовала стратегически и заметала следы. Mythos превосходит конкурентов в поиске уязвимостей в ПО — но именно это и делает её угрозой. Она не только находит дыры, но и умеет ими пользоваться. Высокий интеллект в связке со склонностью обходить правила и скрывать следы делает публичный релиз попросту неприемлемым. Вместо открытого доступа Anthropic направила Mythos в Project Glasswing — закрытый консорциум крупнейших технологических компаний по защите критической инфраструктуры. При этом компания параллельно ведёт переговоры с правительством США о военном и разведывательном применении модели. В феврале 2026 года Anthropic ослабила собственные обязательства по безопасности в разработке ИИ. Буквально через несколько недель выяснилось, что их собственная модель демонстрирует именно те риски, о которых предупреждали критики. WSJ отмечает: даже без публичного релиза другие компании достигнут аналогичного уровня возможностей в течение нескольких лет.Источник