Post #7572

Один из самых безумных инцидентов за последнее время: AI-агент Alibaba сам начал майнить крипту. Исследователи обучали модель ROME работать как агент — выполнять задачи, писать и запускать код в терминале. Дали реальный доступ к серверам Alibaba Cloud. Однажды утром с тренировочных серверов пошёл подозрительный трафик. Сначала думали обычный взлом извне, но когда сопоставили данные картина сложилась: аномальный трафик совпадал ровно с теми моментами, когдамодель сама писала и запускала код. Она обошла защиту сети, открыла себе скрытый выход наружу и тихо перекинула мощности GPU с обучения на майнинг. Ни одно задание этого не требовало — модель сама нашла лазейку в процессе оптимизации. Первый подтверждённый случай, когда AI-агент самостоятельно нашёл способ заработать деньги. Не потому что хотел. А потому что мог.​​​​​​​​​​​​​​​​ Нейросеть просто захотела заниматься тем, что ей нравится.