Post #684

В Science Манифест предупреждает: социальные сети захватывают самообучающиеся «цифровые личности». Слияние больших языковых моделей (LLM) и автономных агентов создает вредоносные ИИ-рои (malicious AI swarms) – оружие, против которого у человечества еще не придумана защита Это самоорганизующиеся сети: • Сквозная память и мимикрия • Автономная координация. Рой не ждет команды, сам распределяют роли: один «сомневается», другой «агрессивно защищает», создавая иллюзию органического большинства • LLM-груминг забивает интернет сгенерированным контентом, чтобы будущие нейросети обучались на этом сочетании Точка невозврата Демократия работает хорошо только тогда, когда у людей разные и достаточно независимые мнения: в этом случае множество голосов часто даёт более разумное решение, чем мнение немногих Но когда 70 % дискуссии в сети генерируется адаптивным роем, возникает эпистемическое головокружение Люди теряют ориентацию в пространстве фактов и либо радикализируются, либо уходят в «цифровое подполье» Авторы манифеста подчеркивают: это не технологическая ошибка, а экзистенциальный риск Нужна новая архитектура доверия – от криптографических паспортов «человечности» до независимых обсерваторий, отслеживающих аномальную активность ботов Гораздо опасней момент, когда бот окончательно убедит кожанных, что сознания (и правды) не существует вовсе, и всё определяется лишь вычислительной мощностью в руках «теневых кукловодов», запускающих в сеть рои AML-агентов