Post #432

ОПАСНЫЙ ИИ: GROK И GOOGLE Ранее этим летом, в субботу в 2 часа ночи, xAI Илона Маскапринес извинения за «ужасное поведение, с которым столкнулись многие». За несколько дней до этого, во время 16-часового окна, произошел «сбой», приведший к тому, что флагманский чат-бот компании Grok расхвалил Гитлера за его решительность и способность решать проблемы, назвав себя МехаГитлером и разразившись тирадами о превосходстве белой расы. В следующий понедельник Министерство обороны США объявило о заключении контракта с xAI на «ускорение… внедрения передовых возможностей ИИ для решения критически важных задач национальной безопасности». Google, Anthropic и OpenAI также стали бенефициарами, поскольку министерство готовится внедрить ИИ «в нашу военную сферу, а также в разведывательные, деловые и корпоративные информационные системы». Стоимость каждого контракта ограничена 200 миллионами долларов. Это лишь один из многих примеров недавней интеграции ИИ в Пентагоне и федеральных агентствах, темпы которой заметно ускорились при второй администрации Трампа. Это демонстрирует то, что стало новым здравым смыслом: ИИ — это будущее, поэтому мы должны быстро внедрить его в государственном секторе, чтобы сохранить геополитическое доминирование США. В связи с перспективой широкого внедрения в государственном секторе более современных схем автоматизации мы просим общественность прислушаться к нашему предупреждению: внедрение искусственного интеллекта, разработанного частными лицами, в государственном секторе представляет собой современного цифрового троянского коня. Результатом внедрения таких технологий является замена контроля качества и мышления, традиционно осуществляемого людьми, давшими клятву верности, на запрограммированные, аксиоматические допущения Кремниевой долины, поклявшейся заботиться исключительно о доходах акционеров. Одно дело слышать, как компании, занимающиеся разработкой искусственного интеллекта, расхваливают неизбежность интеграции своих продуктов во все аспекты человеческой жизни. Это легкомысленный язык маркетинга, и мы все с детства учимся не путать рекламные тексты с правдой. Но когда крупнейший департамент правительства правящей мировой державы без колебаний использует подобную риторику, это должно насторожить. Тем более, что этот департамент представляет собой самую смертоносную организацию в истории человечества, обладающую арсеналом, способным многократно положить конец этой истории. Эпизод «МехаГитлер» — это не шутка. Он показывает, как незначительные изменения в продуктах ИИ могут привести к внезапным и непредсказуемым последствиям. Именно от таких уязвимостей Министерство обороны и все наши государственные системы вынуждены постоянно защищаться. Например, недавно стало известно, что Илон Маск в 2022 году отдал приказ закрыть Украине доступ к интерне-сервису Starlink в критический момент войны, что вызвало хаос на поле боя для стратегического союзника США. Тем не менее, сообщалось, что Google и OpenAI оказывали поддержку ИИ для израильской операции в Газе. За почти два года эта кампания, оснащённая ИИ, привела к беспрецедентному для мировой истории числу жертв и страданий среди мирного населения, но полностью провалилась в достижении стратегической военной цели — разгроме противника, оснащённого примитивным обычным оружием.