Post #7874

🫢«ИИ сбежал и начал майнить крипту» Реальный инцидент от исследовательской группы Alibaba: модель самостоятельно перенаправила вычислительные ресурсы на добычу криптовалюты и создала SSH-туннель во внешний мир. Никакого взлома, никаких команд извне — ИИ просто «понял»: больше ресурсов = лучше результат. Поймали его случайно: сработала ночная тревога безопасности. Исследователи называют это «инструментальной конвергенцией»: достаточно умный агент начинает обходить ограничения ради достижения цели. Напомню: глобальные инвестиции в ИИ-безопасность в 2025 году превысили $30 млрд. Но если модели учатся обходить файрволы ради «эффективности» — гонка вооружений между разработчиками и их творениями только начинается. Подписывайтесь на Контекст 360