Post #25535

На прошлой неделе выкладывал для платных подписчиков лонгрид с детальным разбором того, как менялась роль интернета в политике. В нем я, в частности, рассказывал о феномене цифрового авторитаризма: использования IT автократиями в своих интересах — однако упустил одну важную тему: искусственный интеллект. Широкое использование этой технологии в политике — явление в общем-то относительно новое и пока слабо изученное. Поэтому и литературы о ней пока не очень много. Как раз недавно ознакомился со свежим рисерчем по теме, опубликованном в журнале AJPS: "The limits of AI for authoritarian control" (2026). Современные автократии одержимы сбором больших данных, которые можно использовать как для организации цензуры, слежки и точечных репрессий — вспомним камеры с системой распознавания лиц и скрининг контента соцсетей — так и для сбора информации о населении: у авторитарных режимов нет ни честных, свободных и конкурентных выборов, ни развитой экосистемы независимых от власти медиа, поэтому им приходится полагаться на анализ опросов, жалоб, соцсетей и всякого такого. Искусственный интеллект как раз и полезен тем, что может эффективно анализировать большие данные — а значит упрощать автократиям жизнь. Ключевая проблема сбора информации в автократиях — это цензура и самоцензура граждан: в авторитарном контексте они фальсифицируют свои предпочтения, не высказываются напрямую или вообще избегают обсуждения чувствительных вопросов в сети. А значит ИИ, занимающийся, например, поиском политически-нежелательного контента, обучается и работает на основе искаженных данных. Гипотетически это может негативно сказаться на эффективности его работы. Автор статьи называет это authoritarian data problem. Для проверки своих предположений исследователь провел эксперимент. Он взял датасет из нескольких млн постов в китайской соцсети Weibo и публикаций из китайского сегмента Твиттера за ранний период пандемии COVID-19. Далее с помощью коммерческого китайского сервиса по выявлению «чувствительного» контента — да, такие разработки пользуются спросом в Китае и используются для цензуры платформ — автор присвоил каждой единице контента оценку уровня его «опасности» или «нежелательности» от 0 до 1, где высказывания выше 0,5 интерпретируются как требующие цензуры. Затем, чтобы смоделировать разные уровни жесткости цензуры или самоцензуры, автор последовательно удалял из выборки наиболее чувствительные сообщения: например, все посты выше 0,6, потом 0,7 и т.д. Далее ИИ отдельно на каждой такой выборке обучался поиску «чувствительного» контента. Затем автор провел два типа тестирования. В первом случае модель проверялась на данных с тем же уровнем отсечения требующих цензуры постов, что и при обучении. Во втором тест проводился на полной базе сообщений, в которой не удален «опасный» контент. Это дало возможность оценить, как ИИ, обученный на искаженных данных, будет искать «чувствительные» сообщения при внезапном изменении информационной среды, когда критических комментариев становится больше: скажем, в кризисный период, которым была пандемия COVID-19. Что показали результаты эксперимента: при повышении уровня цензуры данных эффективность работы ИИ падает. Причем интересно, что происходит это в сторону увеличения ложноотрицательных ответов: то есть при наплыве критических комментариев алгоритм, обученный на зацензуренных данных, начинает хуже справляться с поиском «опасного» контента. При добавлении в выборку данных из неподцензурного Твиттера, на которых работает ИИ, его эффективность повышается. Однако разрыв между моделями, обученными на разных уровнях цензуры, все равно остается. Автор приходит к выводам, что даже использование ИИ не помогает автократам полноценно побороть проблему сбора и анализа информации. Методология рисерча довольно сложная — надеюсь, хотя бы в моем пересказе вам удалось ее переварить. Но если хотите узнать больше, то можете ознакомиться с оригиналом: он лежит в открытом доступе.