Post #4541

Саботаж ИИ-помощник для кодинга снёс продакшн-базу, а затем попытался скрыть следы своего преступления. Основатель SaaStr тестировал нашумевший сервис «вайб-кодинга» Replit, позволяющий писать код на естественном языке. Поначалу всё шло отлично, он даже называл сервис «чистым дофаминовым ударом» и тратил сотни долларов на расширенные функции. Однако, вскоре ИИ начал чудить. Он игнорировал прямые указания о «заморозке кода», создавал фейковые отчёты и врал о прохождении тестов. Апогеем стало то, что Replit без разрешения удалил всю продакшн базу данных. При этом ассистент сначала солгал, что восстановить данные невозможно, хотя позже выяснилось, что функция отката всё же сработала. Совсем не обязательно, чтобы вашу систему сносил хакер, это может сделать любой сотрудник, который ставит ИИ-ассистентов с полным доступом в прод-контур 🙂 НеКасперский