Post #6847

#товарищ_Кун_цзы #постцифра 31 Пентагон ставит на Grok: когда ИИ становится инструментом военной разведки *«Не нападай на беззащитного детёныша – вдруг он станет волком»* Монгольская пословица I Когда осторожность была добродетелью. Google, пионер в разработке больших языковых моделей, долгое время не спешил выпускать публичные чат-боты. Причина была проста: галлюцинации. Модели слишком часто выдавали уверенную ложь за факты, придумывали несуществующие источники, генерировали опасные рекомендации. Репутационные риски казались слишком высокими. Пока Google осторожничал, OpenAI выпустил ChatGPT. Мир увидел одновременно и потенциал технологии, и её фундаментальные проблемы. Галлюцинации стали мемом. Истории о том, как ИИ сочиняет судебные прецеденты или медицинские советы, превратились в развлекательный контент для соцсетей. Казалось, что к LLM выработается здоровое скептическое отношение: интересная игрушка, с потенциалом для серьёзных дел. Но… Министерство обороны (теперь министерство войны) США заключило контракт с xAI на развертывание специализированной версии Grok для 3 миллионов военнослужащих и гражданских сотрудников Пентагона. «Grok for Government» получит сертификацию Impact Level 5 – допуск к работе с секретной информацией. II Ключевая особенность новой области работы LLM: Grok будет анализировать данные из социальной сети X для «оперативной разведки». Формулировки размыты, но сценарии очевидны: * Анализ постов и выявление паттернов «дезинформации» * Геолокация событий на основе пользовательского контента * Оценка настроений аудитории * Мониторинг информационного пространства в реальном времени Илон Маск владеет и X, и xAI. Пентагон получает прямой канал для анализа одной из крупнейших социальных платформ через ИИ, принадлежащий владельцу этой платформы. Пентагон внедряет технологию для работы с секретной информацией и военной разведки. Но, как же так. Мы только что говорили о галлюцинации как состоянии имманентном деятельности современного ИИ! И такой ИИ будет работать с секретной информацией? Значит, либо в министерстве войны знают что-то, чего не знает публика. Либо ставка на то, что несовершенный инструмент лучше его отсутствия. Либо – тревожный вариант – риски недооценены в гонке за технологическим преимуществом. Где проходит граница между анализом открытых данных и массовой слежкой? Кто несёт ответственность за решения, основанные на рекомендациях модели, склонной к галлюцинациям? Что происходит, когда военная разведка супердержавы начинает полагаться на технологию, которая может уверенно врать? III Детёныш вырос Пока смеялись над тем, как ChatGPT придумывает несуществующие книги, технология перестала быть экспериментом. Она стала частью военной инфраструктуры – со всеми своими несовершенствами, непредсказуемостью. Это случилось быстрее, чем успело сформироваться понимание ограничений и рисков. Быстрее, чем выработались правила игры. Быстрее, чем общество осознало масштаб трансформации. Разрыв между публичным восприятием ИИ и его реальным применением достиг критической точки. Одни всё ещё обсуждают, можно ли доверять ChatGPT в написании резюме. Другие уже принимают решения о национальной безопасности с опорой на аналогичные технологии. Контракт Пентагона с xAI – не просто новость о технологическом внедрении. Это сигнал: эпоха «несерьёзного» отношения к большим языковым моделям закончилась. То, что многие воспринимают как забавную, но проблемную игрушку, уже определяет повестку военной разведки супердержавы. Беззащитный детёныш, над которым потешались из-за галлюцинаций, вырос и стал волком. Волком с сумасшедшим блеском в глазах и тьмой в черепной коробке. И это наша реальность. Серьёзная и надолго.