ДнесЪ на Руси

Не прибавить и не отнять.

Начало https://t.me/ecspat/6771 ИИ может стать технологией освобождения человечества от принудительного труда или финальным инструментом закрепления глобального неравенства. Критический вопрос не в том, какой сценарий реализуется — технологический прогресс или деградация. Вопрос в распределении контроля над технологиями и механизмах принятия решений об их применении. Пока этот контроль сохраняется в руках структур, чья власть исторически базировалась на присвоении результатов чужого труда и поддержании иерархических отношений, ожидать добровольного перехода к модели всеобщего благосостояния было бы методологической ошибкой. Текущая траектория развития предполагает не демократизацию доступа к плодам технологического прогресса, а дальнейшую концентрацию экономической и политической власти. Без структурных изменений в распределении контроля над ИИ-технологиями наиболее вероятным исходом является усиление существующих форм доминирования, адаптированных к новым технологическим возможностям. История не дает оснований полагать, что правящие элиты добровольно откажутся от инструментов, усиливающих их позиции, в пользу эгалитарного распределения благ. значит впереди либо всемирная гражданская война разновероятным исходом либо 2084 год. ну ошибся Оруэлл на 100 лет. он же не Ванга, а писатель...

Начало https://t.me/ecspat/6771 Но вот в чем дело: элиты не собираются отказываться от своего привилегированного положения просто потому, что изменились технологические условия. Напротив, они адаптируют новые технологии для сохранения и усиления контроля. И здесь мы подходим к сути проблемы. IV III. ИИ как инструмент господства Ведущие ИТ-гиганты — Google, компании Илона Маска, Palantir и другие — являются главными поставщиками Пентагона. Их наработки используются в реальных военных операциях, в убийстве людей. Украина стала гигантским полигоном для испытания этих технологий. В режиме реального времени, с постоянной обратной связью совершенствуются системы распознавания целей, автономные дроны, алгоритмы прогнозирования и координации ударов. Правящие элиты прекрасно понимают потенциал ИИ. Но какой экономический стимул делиться плодами этого потенциала с обществом? Концепции вроде безусловного базового дохода предполагают перераспределение, которое противоречит логике концентрации капитала (да и вообще человека как биологического существа). Гораздо рациональнее — с точки зрения сохранения власти — использовать технологии для укрепления существующей иерархии. Весь их доход, вся их власть основаны на монополизации критических ресурсов. Раньше это была земля, затем — фабрики, теперь — данные, алгоритмы, вычислительная инфраструктура. Общество создает стоимость уже не только физическим трудом, но и генерацией данных: каждым поисковым запросом, каждой транзакцией, каждым паттерном поведения. Эти данные — сырье для обучения алгоритмов. Мы одновременно и производители этого сырья, и объекты его применения, и конечные потребители продуктов, созданных на его основе. И вот тут возникает критическая перспектива. Если технологии достигнут такого уровня развития, что массовая занятость населения станет экономически нецелесообразной, а ИИ-управляемые системы смогут производить все необходимое для функционирования элит, возникает вопрос о самой необходимости широких слоев общества в существующей экономической модели. Население перестает быть источником прибавочной стоимости в традиционном понимании и трансформируется в издержку, потребляющую ресурсы биосферы и требующую социального обеспечения. V Закат или рассвет? Оптимистический сценарий постдефицитного общества возможен только при одном условии: если контроль над ИИ и производимыми им благами будет распределен демократически (просьба не ржать в голос, но это так), а не сконцентрирован в руках узкой группы корпораций и государственных структур. Однако все наблюдаемые сегодня тенденции указывают на диаметрально противоположный процесс. ИИ разрабатывается закрытыми коммерческими структурами, финансируется военно-промышленным комплексом, защищается патентным правом и режимом коммерческой тайны. Доступ к передовым технологиям имеет ограниченный круг акторов. Широким массам предоставляются лишь упрощенные коммерческие версии — ровно настолько функциональные, чтобы сформировать зависимость, удержать в экосистеме, обеспечить непрерывную генерацию данных для дальнейшего совершенствования систем ИИ. Тотальный контроль, о котором предупреждают критики технологического развития, не является гипотетической угрозой — он уже реализуется. Системы биометрической идентификации, алгоритмический анализ цифровой активности, предиктивные модели правоохранительных органов, система социального кредита — это не антиутопическая литература, а задокументированная реальность 2025 года. По мере развития возможностей ИИ этот контроль становится технологически совершеннее, менее заметным для объектов наблюдения и практически неизбежным. Технологии сами по себе не детерминируют социальный результат. Все определяется институциональным контекстом их применения и распределением власти над ними. Ядерная энергия может обеспечивать энергетическую безопасность или служить инструментом массового уничтожения. Интернет может функционировать как платформа свободного обмена информацией или как инфраструктура тотальной слежки. Продолжение ниже

#товарищ_Кун_цзы #постцифра 24 Будущее человечества с ИИ: рассвет или закат? I Введение XXI век каа кажетмя, станет веком искусственного интеллекта. Под этим понятием мы понимаем большие языковые модели (LLM), всеобщую роботизацию, активное внедрение и применение ИТ-технологий во всех сферах жизни — от производственных процессов, финансов, в корпоративное и государственное управление и повседневную жизнь. Главная повестка дня — создание AGI, искусственного суперинтеллекта, превосходящего человеческие способности во всех областях. По крайней мере это так постулируется. Парадокс в том, что даже сами разработчики не до конца понимают, как именно будет применяться AGI, какие задачи он будет решать, и что произойдет, когда машины станут умнее своих создателей. ну или им передадут решение важнейших задач отстанив от них человека. Современные LLM совершают детские ошибки — путают факты, галлюцинируют, не понимают контекста. Внешне это как ребенок, который растет с невероятной скоростью. Но даже в таком несовершенном состоянии эти технологии уже активно внедряются в коммерческие и государственные структуры США и Китая — двух единственных сверхдержав современного мира. Однако, все убедилт себя, что ставки слишком высоки, чтобы ждать совершенства. Всё решили трясти баллов и власть сейчас. II I. Две версии будущего Относительно будущего влияния ИИ на жизнь человека существует две противоположные точки зрения. Первая — оптимистическая: наступает золотая эра человечества. ИИ избавит нас от необходимости тяжелого труда, обеспечит все материальные потребности, решит проблемы голода, болезней, старения. Человек наконец освободится для творчества, саморазвития, познания. Это мир изобилия и свободы. «Вкалывают роботы – счастлив человек» (с) Вторая — пессимистическая: жизнь станет намного хуже из-за тотального контроля всего и вся. ИИ станет инструментом беспрецедентной слежки, манипуляции, подавления. Каждый шаг, каждое слово, каждая мысль будут отслеживаться и анализироваться. Свобода станет иллюзией в мире цифровых тюрем. Вобщем Оруэлл в чистом виде... Или Замятин. кому как нравится. III II. Трансформация механизмов присвоения (наверное прибавочной стоимости) Здесь возникает ключевой экономический вопрос. В классической капиталистической системе добавленная стоимость создается через присвоение прибавочного труда. Капиталист владеет средствами производства, нанимает работников, присваивает разницу между созданной ими стоимостью и выплаченной зарплатой. Это — прибавочная стоимость, основа капиталистического накопления. Роботы и ИИ, безусловно, создают добавленную стоимость. Но фундаментально меняется сам механизм присвоения. Когда производство автоматизируется, собственник присваивает стоимость не через эксплуатацию наемного труда, а через монопольное владение средствами производства нового типа — алгоритмами, данными, вычислительными мощностями, интеллектуальной собственностью. Прибыль извлекается из контроля над технологической инфраструктурой, а не из разницы между трудом и зарплатой. Вся история человечества — это история войн, подавления и иерархических структур. Внизу всегда было общество, создающее реальные ценности своим трудом. Наверху — те, кто присваивал плоды этого труда через контроль над ресурсами и средствами производства. Формы социально-экономических систем эволюционировали: рабовладение, феодализм, капитализм. Общий уровень материального благосостояния постепенно увеличивался, но сама пирамида власти сохранялась. Менялись лишь механизмы легитимации господства. Если ИИ действительно обеспечивает производство изобилия без массовой занятости населения, то традиционная модель управления через контроль над рабочей силой теряет смысл. Казалось бы (кому только?), отпадает необходимость в государственном аппарате подавления, в идеологическом контроле над массами производителей, в институтах, обеспечивающих воспроизводство рабочей силы (с семьёйборьба идёт успешно). Продолжение ниже

Казус Долиной Здравствуйте. Днесь, в очередной раз суды РФ своим решением по делу Долиной показали, что и право и судебная система, как системы призванная разрешать споры между сторонами с целью установления справедливости и законности, не просто в кризисе, а отсутствуют как факт. Думаю сегодня говорит о возможности реформировать то, что называется российская судебная система может только не вполне адекватный или ангажированный человек. Это не реформируется. Подумайте сами, по простому заявлению продавца — Долиной, ей была возвращена квартира приобретенная добросовестным покупателем. А Долина, получив квартиру назад, была избавлена от необходимости вернуть деньги отданных ей покупателем. Правда суд благосклонно разрешил покупателю, потерявшему деньги из-за действий Долиной, взыскать их с мошенников обманувших Долину. По сути проблема Долиной была переложена на плечи третьих лиц и добросовестных покупателей. Беда в том, что дело Долиной стала по сути казусом Долиной и теперь мы имеем сотни дел скопированных по мошеннической схеме впервые открыто применённой госпожой Долиной и легитимизированной судами Москвы. Но рассматривая, что натворили Долина и суды, возник у меня дурацкий вопрос. Правильно ли я понимаю решения суда и апелляционного и кассационнного, что теперь все граждане РФ что под действием мошенников получали кредиты например в банках, могут подать в суд и не возвращать банкам заёмные средства? А чё такого? Мне кажется это вполне логично. С точки зрения того армагеддона, что теперь в РФ именуется типа судом. Да и вообще, продал я положим машину, получил деньги, а потом и говорю извини дорогой я был не в себе, деньги отдал мошейникам, так что давай машину назад. А деньги можешь получить с мошенников. Чем не схема? Её вообще можно распространить на любую сделку. На любую. С чем всех и поздравляю. А вы как думаете? Хотя возможно, я ничего не понял или опять всё перепутал.

#товарищ_Кун_цзы #постцифра 23 Продолжение. Начало выше. VII Но некоторым кажется, что есть выход из лабиринта или свет в конце тунеля гонки создания сверхразума или сверхтоталитаризма. Тут уж как повезёт. Решение по Сутскеверу. Заключается международное соглашение по типу договора о нераспространении ядерного оружия, создаётсянекое агентство по типу МАГАТе. Осуществляются взаимные инспекции лабораторий по ИИ, общие мощности для независимого тестирования безопасности, аппаратные аварийные выключатели. VIII В дополнение создаётся некоммерческих партнёрство Safe Superintelligence Inc. Что там необычно? Нет никакого коммерчесеого продукта до достижения безопасного сверхинтеллекта. Миллиард долларов от инвесторов вкладываться в Superintelligence Inc с условием: возврат только после создания безопасного сверхинтеллекта. Проблемой занимается маленькая команда (меньше 40 человек против 1500 в OpenAI). Почти весь бюджет идет на аренду вычислительных мощностей для экспериментов. Сутскевер хочет восстановить модель бизнес-исседований применяемый когда-то в Bell Labs - фундаментальные исследования без давления ежеквартальных отчетов о прибылях. IX Почему Сутскевер ушел из OpenAI? В ноябре 2023 совет директоров уволил Сэма Альтмана. Сутскевер поддержал это из-за конфликта между коммерциализацией и безопасностью. Альтман вернулся через несколько дней, Но Сутскевер потерял влияние на решения по безопасности, а команда по обеспечению безопасности была распущена. (Но Альтман тут не причём... естественно) Ведь когда ты компания с инвесторами, ты не можешь сказать: «Мы остановимся на 3 года для дополнительных исследований безопасности». X Три технических прогноза по ИИ 1. Предварительное обучени LLM как основная модель создания ИИ, умрёт. Вместо «собрал данные, обучил месяцами, заморозил верлятнлсти сочетания токенов, развернул - пользуйтесь» будет: начальное обучение на базовых данных, основное обучение в режиме онлайн во время работы, постоянные обновления и постоянное обучение. постоянная корректировка. 2. Параметры перестанут быть основной метрикой мощи ИИ Вместо размера моделей (70 миллиардов, 405 миллиардов параметров) важнее станут: эффективность использования примеров, широта обобщения, скорость обновления. 3. Аппаратные механизмы безопасности Предполагается встроить функции безопасности прямо в чипы: криптографически подписанный идентификатор каждого ускорителя, Встроенный безопасный анклав для отслеживания использования, аппаратный аварийный выключатель, который нельзя обойти программно. XI Сроки и риски У человечества 3-7 лет до момента, когда несколько лабораторий будут близки к сверхинтеллекту. За это время нужно технически решить проблему согласования с человеческими ценностями, разработать способы проверки систем умнее нас, создать инструменты понимания того, что думает модель. Заключить институционально - международные соглашения. Создать независимые учреждения для тестирования. Разработать и принять нормативные рамки. Если не успеем, мы можем получить развертывание систем уровня сверхинтеллекта без адекватного тестирования безопасности. Полное интервью на YouTube-канале Dwarkesh Podcast, выпуск от 25 ноября 2025 года, длительность около 2 часов..

У каждой компании есть сжелание стать первой. И не важно будет ли тестирование ИИ безопасно для человечества. Важно кто первый. Здесь во всей красе проявляется так называемая дилемма заключенного. Но уже на уровне цивилизации. Если все ждут и тестируют ИИ стремясь обеспечит максимальную безопасность результата. То двигаемся вперёд, вместе и очень медленно. Но если кто-то рискнёт наплевать на безопастность и у него получится. То такой рискованный снимает все сливки. Ну или вместе со всеми гибнет. Но это уже не берётся в расчёт. Капитализм. Потому все решили наплевать на безопасность.

#товарищ_Кун_цзы #постцифра 21 Эпоха «просто добавь мощности» кончилась. Что дальше? I Илья Сутскевер, сооснователь OpenAI, который ушел и запустил компанию Safe Superintelligence Inc, дал большое интервью Dwarkesh Podcast. Главный посыл: старая модель масштабирования исчерпала себя. II Почему предварительное обучение перестало работать? Как было раньше (2020-2024)? Прогресс шел по простой формуле: увеличил мощности в 10 раз, получил улучшение качества в 2 раза. Это умно называлось законом масштабирования. Закон законом, но не забываем о маркетинге фондовом рынке и жадности. Однако все хорошее заканчивается. это известно всем. Три причины, почему это закончилось. Данные закончились. кпк это не странно, нл весь качественный текст из интернета уже выкачать и использован. гениальные, да просто стоящие внимания тескты Когда модель генерирует данныеЕ рождаются в процессе нон-нон-стоп. И для обучения другой, принципиально новой модели тот мусор что плодить интернет помогает слабо. Стоимость затрат растёт экспотанционально. Следующее поколение суперкомпьютеров требует более 100 миллиардов долларов, Но не ясно, даст ли это скачок или просто небольшое улучшение. Или хоть какоое-то улучшение. Убывающая отдача на уровне архитектуры. Модели на основе Transformer упираются в ограничения по способности к обобщению. III Главная проблема - способность к обобщению Современные модели отлично работают внутри обучающих их данных, но плохо переносят знания на новые ситуации. Возьмём максимально формализированную область- математику. Дай модели олимпиадную задачу, и она ее решит. Но попроси проверить чужое решение той же задачи - результаты значительно ухудшатся. Почему? Модель видела много примеров решений, но мало примеров проверки решений. Она не построила внутреннюю модель мира для гибкого применения знаний. Другой пример из сильно формализовпнной области - программирование. Модель может написать код, который компилируется и проходит базовые тесты. Но в нем будут логические ошибки в пограничных случаях, проблемы с архитектурой при масштабировании, неочевидные ошибки в обработке состояний. Модель не строит ментальную модель программы, она осуществляет сложное сопоставление шаблонов. Шаблоны, уже решённые задачи, перебор примеров... IV Выход видитмя в сочетании вычисления во время работы и непрерывного обучения. Вместо того чтобы вкладывать все ресурсы в предварительное обучение новой модели, нужнен принципиально иной подход: модель обучается во время выполнения и постоянно обновляется на основе обратной связи в течении времени. V Как это работает? Запускаются миллионы копий модели в изолированных средах. Каждая копия получает задачу, пробует разные подходы, получает сигнал вознаграждения, лучшие стратегии передаются обратно в основную модель. Есть пример AlphaGo AlphaZero не обучали на человеческих партиях игры в Го. Его просто заставили играть с собой миллионы раз. Результат: кроме повторения тгго что мы знали ранее были откоыты стратегии, которые люди никогда не использовали, но которые объективно сильнее существующих. VI Многоагентное обучение как источник сигнала. Когда много агентов взаимодействуют в общей среде, они естественным образом создают сложные структуры стимулов. Пример. Да очередной. В игре Diplomacy, где нужно вести переговоры и заключать альянсы, агенты научились долгосрочному планированию на 5-10 ходов вперед, моделированию намерений других агентов, управлению репутацией. Эти модели поведения не были явно заложены, они возникли естественным образом из взаимодействия. VII Однако не все радужно и светло на горизонте ИИ. И тут проблема не ИИ, а человека. И заключается она в том, что идёт гонка к созданию сверхинтеллекта. Не доказано, что сверхИИ теоретически возможен, но жадность... Несколько лабораторий (OpenAI, Anthropic, Google DeepMind, китайские компании) примерно одновременно приближаются к якобы сверхинтеллекту. Продолжение ниже.

https://t.me/Vladimir_Orlov1977/21232 Всё что надо знать президенту России о западных партнёрах, но почему-то он боится уже 25 лет спросить...

Здравствуйте. Днесь, член-корреспондент РАН, научный директор Института водных проблем Данилов-Данильян сообщил, что отделение наук о Земле Российской академии наук проработает научную составляющую проекта по переброске речного стока российских рек в Среднюю Азию. Наиболее перспективными проектами признаны: перераспределение части стока реки Оби в Аральский регион (высохшее Аральское море на границе Узбекистана и Казахстана), а также рек Печоры и Северной Двины в бассейн реки Волги и далее в Приазовье. Думаю очевидно, что без одобрительного кивка из Кремля эти учёные не стали бы тратить миллионы государственных средств на разработку ТЭО столь же одиозного, как и грандиозного проекта. Замечательная, сказочная, невероятная щедрость России! Россия щедрая душа. Ёпть... другого слова не подобрать. Только почему-то щедрость власти РФ проявляют исключительно за счёт местного населения. Мало того, что граждане России оплачивают чуть ли не всю социалку типа независимых и гордых государств Средней Азии. Мало того, что на деньги граждан России, там строятся школы, кормятся десятки тысяч тамошних школьников. Государствам Средней Азии прощают сотни миллионов долларов государственного долга. За счёт российского бюджета строятся электростанции, бесплатно подающие электроэнергию, якобы дружественным народам. Но, руководство РФ решило, что этого видимо мало для контрибуции за столетия гнёта под пятой сначала Российской империи, а затем и СССР. Теперь решено за счёт ныне живущих граждан и в ущерб будущим поколениям россиян, окончательно осчастливить население чужих государств бесконечным количеством бесплатной качественной воды. Более того, зная ситуации в экономике этих государств уверен, что и разработка проекта, и строительство трубопровода и поставка воды в Среднюю Азию будут производиться исключительно за счёт российских налогоплательщиков. По сути за счёт понижения уровня жизни кап их так и многих последующих поколений. И к слову никак этой щедрости не мешает дифицитныц бюджет о котором стонет Минфин. Видимо для этого растут у нас налоги, сборы, акцизы и прочие государственные поборы. Для благополучия граждан государств Средней Азии российские власти отбирают шкуру с российских граждан. И вот тут у меня возникает дурацкий вопрос. Почему руководство РФ до такой степени ненавидит Россию? Почему руководству РФ жители среднеазиатских кишлаков роднее милее и ценнее русских, якутов, тувинцев и бурятов - коренных народов России? Что в голове у всей этой камарилье пришедшей 35 лет назад к власти? И вообще чьих они будут? Очевидно не наших. От президента до депутата не наши. Так чьи? А вы как думаете? Хотя возможно, я ничего не понял или опять всё перепутал.

#товарищ_Кун_цзы #постцифра 20 Почему языковые модели галлюцинируют: математика и реальность I Математика языковых моделей В основе работы LLM лежит простая формула: LLM(x) = argmax P(y|x), где x — входные данные (независимая переменная) y — выходные данные (зависимая переменная) P(y|x) — условная вероятность получения результата Y при заданном Х argmax — оператор, который находит такое значение аргумента Х, при котором функция LLM (х) достигает максимума Если перевести на простой язык, то модель выбирает в своих «рассуждениях» тот токен (слово или его часть) который встречался ей в обучении чаше всего в сочетании с условиями задачи. Главная проблема тут в том, что LLM работает только с вероятностью, не обращая внимание на истинность. Модель задаётся вопросом: «То, что вероятно, это правда или лож?» Она спрашивает: «Как часто такое встречалось ранее в моих данных?» Отметим, что данные взяты ИИ не из практического опыта или от уважаемых и проверенных источников, а из массива данных в котором вся информация, с точки зрения ИИ, есть истинная, но просто встречается с разной частотой. II Три причины галлюцинаций: 1. Несовпадение данных и реальности Обучающие данные могут содержать: - Противоречивую информацию - Устаревшие факты - Ошибки и вымыслы - Мифы и городские легенды Модель усредняет всю эту статистику. Если ложная информация встречается часто, модель именно её будет принимать за норму. 2. Заполнение пробелов Когда контекст не вполне однозначен и информация не полна или запрос не вполне определён, модель начинает «додумывать» на основе имеющихся у неё статистических закономерностей, а не фактов. Факты вообще в современном ИИ не отличимы от вымысла. 3. Нет механизма проверки истины У модели нет доступа к «базе истинных фактов». Она не умеет: - Проверять информацию в реальном времени - Отличить факт от популярного заблуждения - Понять, что что-то физически невозможно III Можно ли исправить? Современные решения: RAG (Retrieval-Augmented Generation) Модель сначала ищет информацию во внешних источниках, затем отвечает на основе найденного. Использование инструментов Модель обращается к калькуляторам, базам данных, поисковикам для проверки фактов. RLHF (обучение с подкреплением) Модель получает обратную связь от людей и учится избегать ошибок. IV Это увы не панацея: - Внешние источники тоже могут ошибаться. Причём в некоторых областях человеческой деятельности источники преднамеренно выводят в заблуждения. - Знания о мире неполны и постоянно меняются. Собственно, это основание научного метода познания истины. Например, даже такая отрасль математики как геометрия может радикально меняется в зависимости от внешних обстоятельств или решаемых задач (эвклидово и неевклидовое пространство). В этом случае одна задача будет иметь два и более совершенно истинных, но абсолютно различных решения. - При генерации текста всегда остаётся вероятность выбрать неверный токен, ибо вероятность это такое дело… V Таким образом галлюцинации ИИ — следствие архитектуры: модели работают на вероятностях, а не на истине. Это практически неизбежно: пока обучающие данные несовершенны, а проверка фактов не встроена в саму модель. А поскольку данные всегда будут несовершенны, а по-настоящему проверить факты обычно невозможно, то ИИ будет галлюцинировать всегда. Но галюцинации можно смягчить: через внешние инструменты, постоянный поиск информации, верификацию и качественные данные Вывод однозначный: не доверяйте LLM слепо в вопросах, где важна фактическая точность. Всегда проверяйте критически важную информацию!

Всё ради и для...