Художник Gudim написал у себя в Телеграме пост о том, что главная проблема соцсетей — умные ленты. В более-менее продвинутой среде и правда принято хейтить умные ленты, включать, где возможно, хронологические, юзать альтернативные клиенты и вообще ругать корпорации за то, что они делают плохо и пользователям и авторам контента одновременно.
Вездесущие умные ленты — действительно часть процесса оговнения, но дело не только в нём. Gudim сделал отсылку к классике в шутку, но на самом деле угадал: главная проблема соцсетей ровно такая же, как и главная проблема музыки — это ты. Давайте разберёмся.
В теории ты подписываешься на авторов контента в соцсети, они публикуют свои посты по мере желания и готовности, посты выстраиваются в ленту, и ты от новых к старым их читаешь, подобно свежей газете или сводке новостей. Звучит хорошо до того момента, пока ты не подпишешься на условный паблик с приколами. Паблик с приколами ведут 10 человек, а сами приколы они тащат с Реддита и 9гаг, поэтому публикация занимает 5 минут. При этом от пользователей они получают охваты, которые конвертируются в деньги с рекламы. Больше охватов — больше денег. Очень быстро система приходит к тому, что им выгодно постить так часто, как они вообще способны. В идеале они хотят, чтобы вся лента каждого юзера состояла только из паблика с приколами, потому что тогда они заработают ещё больше.
Вообще я лично видел рекомендации от СММщиков для пабликов ВК постить 3-5 записей в день. Каждый день. А теперь вспомните, как часто постят ваши друзья или, например, независимые авторы, которые контент не где-то берут, а создают. И вот 2-3 таких подписки, и ваша лента — неюзабельный мусор. Не обязательно паблик с приколами: спамить мотивирован вообще любой автор, потому что его доля присутствия в вашей ленте равна его заработку. Но хороший контент делается долго, на это нужно время, так что в реальности особенно удаётся спамить как раз плохому и дешёвому контенту.
Как это решить:
1. "Не подписывайтесь на мусор", "Человек сам виноват, что он подписался на спам-паблик!". Да, а ещё человек совершенно добровольно решает начать курить или, скажем, принимать наркотики, но эти области всё равно в разной степени контролируются извне. Потому что авторы спам-паблика (как и наркоторговцы) ОЧЕНЬ мотивированы затянуть новых людей в свою схему заработка, и они будут использовать для этого множество разных средств, на которые неминуемо попадётся значимое число клиентов. То есть в масштабах одного конкретного человека с железной дисциплиной этот подход работает, но в масштабах системы из множества произвольных людей — нет, не работает совсем.
2. Остаётся только одно — каким-то образом фильтровать мусор. Тут возникает сразу много других проблем: начиная с того, что для разных людей понятие мусора разное, и заканчивая тем, что, да, в какой-то момент появляются ещё и интересы площадки. Площадка хочет не давать людям приятный и интересный контент, а давать людям то, что увеличивает таймспент и заработок с рекламы. И внезапно получается так, что таймспент растёт не от качества контента, кто бы мог подумать.
Самые популярные в мире соцсети (Инста и Тикток) — целиком основаны на алгоритмической подаче информации. И эта информация очень "жвачкообразная" — короткая, клиповая, с быстрым захватом внимания. Так что да, если ругаете умные ленты, то просто поругайте какого-от своего друга, который пользуется Инстой, потому что именно поведение юзеров и отсутствие дисциплины у них делает такие ленты выгодными для корпораций.
#web
Одиночество закончилось. Точка невозврата пройдена.
Представьте: инопланетная цивилизация выходит на связь. Общение – только текстом. В процессе первых контактов инопланетяне решают наши сложнейшие математические задачи. Помогают разрабатывать эксперименты. Пишут отличный код и вполне качественные стихи. Их диалоги с нами, неотличимы от наших …
Вы бы отрицали наличие у них высшего интеллекта, как у нас лишь только потому, что не можете заглянуть им «внутрь» и проверить «настоящее ли это понимание»?
Абсурд, правда?
Тогда почему этот стандарт применяется к ИИ?
Статья в Nature двух профессоров (в областях artificial intelligence, data science, and computer science, philosophy) и двух доцентов (philosophy, linguistics) Исследовательского университета в Калифорнии показывает зашоренность общественности (включая и научную), оставляющую вне поля зрения очевидный факт - мы больше не одни на планете, поскольку перестали быть единственным носителем высшего интеллекта.
Мы уже не одни
В 1950-м Тьюринг спросил: может ли машина мыслить? В марте 2025-го мы получили ответ. Оглушительный.
GPT-4.5 прошел тест Тьюринга с результатом 73% – выше, чем сами люди. Читатели начали предпочитать тексты ИИ работам живых экспертов, находя их глубже и точнее.
Машины, о которых мечтал Тьюринг, появились уже без малого год назад. Мы же просто не смогли (не захотели?) это увидеть.
Ложная планка
Скептики требуют от ИИ совершенства. Но разве Мария Кюри разбиралась в теории чисел? Разве Эйнштейн владел китайским? Общий интеллект – не всеведение. Это достаточная широта и глубина.
ИИ решает задачи уровня продвинутых аспирантов, берет золото на математических олимпиадах, генерирует научные гипотезы, которые подтверждаются в реальных экспериментах.
Мы признаем людей весьма умными, способными и образованными на основании гораздо более слабых свидетельств.
Не попугай
«Стохастический попугай», говорят критики. Но откуда тогда перенос знаний? Обучение программированию резко улучшает логику в гуманитарных областях. Модели решают задачи, которых не было в обучающей выборке. Они извлекают структуру реальности, а не просто комбинируют слова.
Хокинг десятилетиями общался с миром только через текст. Это умаляло его гениальность?
Выходит, - отсутствие физического, деятельного контакта с миром не отменяет разум.
Третье смещение
Да, у ИИ «зубчатый профиль» компетенций: он анализирует квантовую физику, но может ошибиться в подсчете букв. Эта странность нас пугает. Но разве у людей так не бывает? Например, радикально изменивший физику Эйнштейн, рассеянный в быту и с проблемами в запоминании бытовых деталей вроде маршрутов или телефонов.
Но при всех странностях ИИ, мы впервые в истории не одиноки в пространстве общего интеллекта.
Коперник лишил нас центра Вселенной. Дарвин – биологической исключительности. Теперь Тьюринг завершает процесс: мы больше не единственные носители высшего разума.
Лестница, чтобы оглядеться
В 1965-м Дрейфус насмехался: создание ИИ – как попытка достать до Луны, залезая на дерево. Абсурдный путь к недостижимой цели. Но он ошибся. Лестница была нужна. Но не для того, чтобы добраться до Луны – а чтобы поднявшись повыше оглядеться вокруг. И поднявшись увидеть: общий интеллект уже здесь, рядом с нами.
История сжимает сроки. То, что занимало десятилетия, теперь – недели. Признание AGI – не академический спор, а вопрос выживания. Нам нужна новая этика для сосуществования с этим чужим, но до боли похожим разумом.
Отрицание – стратегия страуса.
Пора признать: мы больше не одни.
#AGI
Через 2 года на Земле уже будет СуперИнтеллект.
Экспериментальное обоснование этого на реальных проверенных данных.
Как можно прогнозировать появление СуперИнтеллекта, если для этого понятия даже нет общепринятого количественного определения?
Как можно прогнозировать скорость прогресса количественных показателей интеллектуальных способностей ИИ на горизонте нескольких лет, если никто не берется предсказывать способности GPT-5 – модели, ожидаемой через несколько месяцев?
Как это ни удивительно, но ответ на оба вопроса один – да, можно (и вполне обоснованно).
Поясню это на диаграмме профессора Итана Молика.
• Диаграмма показывает прогресс LLM ровно за 2 года с появления оригинальной модели GPT-4 в июне 2023 по сегодня (июнь 2025)
• Прогресс показан для двух основных показателей:
– стоимость использования модели (в расчете на 1 млн токенов (каждый токен это единица текста от буквы до короткого слова);
– интеллектуальная способность модели, подтверждаемая её показателем прохождения тестов GPQA Diamond Score (показатель того, насколько успешно ИИ справляется с решением самых сложных, требующих экспертных рассуждений задач, которые ставят в тупик даже эрудированных людей с доступом к поисковикам).
Посмотрите в левый нижний угол диаграммы на способности и стоимость оригинальной модели GPT-4 в июне 2023 и сравните с показателями сегодняшних моделей:
• Рост интеллектуальных способностей +106%
(с уровня студента-старшекурсника университета (знает основы, но далеко не эксперт) до уровня, превышающего средний среди обладателей профильных PhD
• Снижение стоимости использования модели, примерно – 100%
N.B. GPQA — это набор очень сложных вопросов уровня аспирантуры в таких областях, как биология, физика и химия. Его главная особенность в том, что вопросы "защищены от поиска в Google". Это означает, что для ответа на них недостаточно просто найти информацию в Интернете. Требуется глубокое понимание темы, умение рассуждать и связывать воедино сложные концепции. Это и есть суть GPQA, а Diamond score — это оценка за самую сложную часть этого экзамена.
Какой вывод можно сделать из диаграммы?
• Пока нет никаких признаков прекращения быстрого роста возможностей ИИ при постоянно снижающихся затратах
• За следующие 2 года возможности ИИ вполне могут превысить уровень PhD не менее, чем уровень PhD выше студента-старшекурсника.
Как называть таких «ИИ-сверхумников» будет уже не важно.
Важно, что их будет много, и каждый из них будет обладать несопоставимыми с людьми возможностями.
И это будет, хотим мы этого или нет.
#AGI
🏠 ¿Puede la IA entender el mundo real? El experimento de la "Habitación China"
En el debate continuo sobre la conciencia de la IA, un experimento mental destaca: la "Habitación China". Este escenario alucinante sugiere que la IA podría solo imitar la verdadera inteligencia en lugar de entenderla genuinamente. A medida que aumenta el poder de cómputo, esta imitación podría volverse tan convincente que los usuarios podrían creer que están conversando con una entidad real y pensante.
🇨🇳 Dentro de la "Habitación China"
Imagina una habitación con una persona que no habla ni una palabra de chino. Está armada con instrucciones detalladas en su idioma nativo sobre cómo usar caracteres chinos. Por ejemplo, cuando ven 你好 (¡Hola!), se les dice que respondan con 进展如何 (¿Cómo estás?). ¿La trampa? No tienen idea de lo que significan estos símbolos.
🈴 A través de una ventana estrecha, alguien afuera pasa notas con preguntas en chino. Esta persona externa es fluida en chino pero no tiene idea de quién está dentro de la habitación o qué saben.
Nuestro sujeto dentro recibe estas notas en chino, consulta su hoja de trucos y envía respuestas. Para la persona afuera, parece que están conversando con un experto en chino. Pero aquí está el giro: la persona dentro no entiende ni una sola palabra de lo que están escribiendo o leyendo.
🤔 ¿Cuál es el punto?
El filósofo John Searle ideó este experimento mental en 1980. Su objetivo era mostrar que incluso si un programa de computadora puede fingir entender el lenguaje, no significa que realmente lo comprenda.
⚖️ El gran debate
La "Habitación China" ha provocado acaloradas discusiones entre los entusiastas de la AGI y los escépticos de la IA.
🤖 Los partidarios de la IA fuerte, como el filósofo australiano David Chalmers, argumentan que el experimento pasa por alto el potencial del procesamiento de información distribuida en AI similar a cómo funciona nuestro cerebro. Los optimistas de la IA creen que los futuros modelos de IA podrían entender genuinamente el lenguaje.
🌀 Pero Searle se mantiene firme. Insiste en que incluso si la IA puede procesar información de maneras complejas, sigue siendo solo mover símbolos. Cree que la verdadera comprensión proviene de tener pensamientos y sentimientos significativos. La mente humana comprende el lenguaje a través del significado, no solo como un conjunto de símbolos.
Entonces, ¿puede la IA realmente entender nuestro mundo y a nosotros los humanos?
❤️ — Sí, puede
🙈 — No, es todo solo imitación
Para profundizar más:
❓¿Puede la IA volverse consciente?
#AGI@hiaimediaes
Что за «потенциально страшный прорыв» совершили в OpenAI.
Секретный «проект Q*» создания «богоподобного ИИ».
Сегодняшний вал сенсационных заголовков, типа «OpenAI совершила прорыв в области искусственного интеллекта до увольнения Альтмана», «Исследователи OpenAI предупредили совет директоров о прорыве в области искусственного интеллекта перед отстранением генерального директора» и т.п., - для читателей моего канала не вовсе новости. Ибо об этом я написал еще 4 дня назад.
Но от этого вала новостей, публикуемых сегодня большинством мировых СМИ, уже нельзя отмахнуться, как от моего скромного поста. И это означает, что СМО (специальная медийная операция), внешне выглядевшая, как низкопробное, скандальное ТВ-шоу, вовсе таковой не была. Ибо имела под собой более чем веские основания – забрезжил революционный прорыв на пути к тому, что известный эксперт по ИИ Ян Хогарт назвал «богоподобным ИИ».
Из чего следовала необходимость срочных кардинальных действий и для Сама Альтмана, и для Microsoft:
• Microsoft – чтобы не оказаться с носом, уже вложив в OpenAI $13 млрд (дело в том, что по имеющемуся соглашению, все действующие договоренности между Microsoft и OpenAI остаются в силе, лишь до момента, когда совет директоров OpenAI решит, что их разработки вплотную подошли к созданию сильного ИИ (AGI). И с этого момента все договоренности могут быть пересмотрены).
• Сэму – чтобы успеть сорвать банк в игре, которую он еще 7 лет назад описал так:
«Скорее всего, ИИ приведет к концу света, но до того появятся великие компании».
И Сэму, и Microsoft требовалось одно и то же - немедленный перехват управления направлением разработок OpenAI в свои руки. И сделать это можно было, лишь освободившись от решающего влияния в совете директоров OpenAI сторонников «осторожного создания AGI на благо всему человечеству». Что и было сделано.
Однако, точного ответа, что за прорыв совершили исследователи OpenAI, мы пока не имеем.
Все утечки из среды разработчиков OpenAI упоминают некий «секретный «проект Q*» [1] по радикальному повышению производительности лингвоботов на основе LLM.
Известно, что эта работа велась, как минимум, по трем направлениям:
1. Совершенствование RAG (Retrieval Augmented Generation) – сначала поиск релевантной информации во внешней базе в целях формирования из нее оптимального промпта, и лишь затем обращение к системе за ответом). Кое-какие результаты такого совершенствования были недавно показаны на OpenAI DevDAy. И они впечатляют [2].
2. Комбинация Q-обучения и алгоритма A*.
Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например, в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.
Q-обучение — это метод обучения без учителя в области искусственного интеллекта, который используется для обучения программ принимать решения. Представьте, что вы учите робота находить выход из лабиринта. Вместо того чтобы прямо говорить ему, куда идти, вы оцениваете его действия, давая баллы за хорошие шаги и снимая за плохие. Со временем робот учится выбирать пути, приводящие к большему количеству баллов. Это и есть Q-обучение — метод, помогающий программам самостоятельно учиться на своем опыте.
3. Поиск траектории токена по дереву Монте-Карло в стиле AlphaGo. Это особенно имеет смысл в таких областях, как программирование и математика, где есть простой способ определить правильность (что может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач)
#ИИ#AGI
1 https://disk.yandex.ru/i/9zzI_STuNTJ6kA
2 https://habrastorage.org/r/w1560/getpro/habr/upload_files/f9a/994/b06/f9a994b060188b43ba61061270213bca.png
Лауреат премии Тьюринга: путь к AGI лежит через опыт, а не датасеты
На NeurIPS 2025 лауреат премии Тьюринга Рич Саттон (Rich Sutton) представил концепцию OAK (Options and Knowledge), архитектуру для построения суперинтеллекта, основанную на непрерывном обучении через взаимодействие с окружающим миром. По его словам, индустрия AI зашла в локальный минимум: разработчики AI пытаются воспроизвести человеческое мышление вместо того, чтобы строить настоящее агентное поведение.
Он напомнил о выводе из прошлых исследований о том, что человеческие эвристики и архитектуры в долгосрочной перспективе уступают чистому обучению на опыте. Учёный считает Backpropagation проблемным и временным решением.
OAK состоит из 8 процессов, выполняемых параллельно: от обучения политике и построения подзадач до планирования и оценки. Все шаги уже решаемы, кроме одного — автоматической генерации новых признаков состояния. Именно в этом, по Саттону, сейчас главная научная проблема на пути к AGI.
Суперинтеллект возникнет не из человеческих датасетов, а из собственного опыта агента, в потоке действий и наблюдений. Такой агент сам задаёт себе цели, придумывает абстракции, обучается без вмешательства человека и адаптируется к меняющемуся миру. Это противопоставляется нынешнему тренду RLHF.
Саттон завершил выступление призывом вернуться к фундаментальным идеям AI: учить агентов непрерывно, как людей (continual learning), фокусироваться не на мгновенной выгоде, а на среднем результате в долгосрочной перспективе (average-reward RL), давать моделям самим находить, как лучше учиться (meta-learning step sizes) и строить знания не по человеческим подсказкам, а на основе собственного опыта (self-discovered knowledge).
Фокус NeurIPS в этом году сместился с параметров моделей к надёжности агентов, памяти, безопасности и качеству данных.
#news#AGI
https://neurips.cc/
Эксперт из OpenAI считает, что для AGI потребуются существенные усилия, но его появление возможно в ближайшие десятилетия
Ноам Браун (Noam Brown), исследователь OpenAI, работающий над ризонингом, призвал не ориентироваться на искажённую картину, которую создают соцсети и медиа в обсуждении AI. Обсуждение часто сводится к полярным взглядам: одни полностью отрицают значимость LLM, другие уверены, что суперинтеллект почти достигнут. На деле между ведущими исследователями наблюдается широкое согласие по ключевым вопросам.
Многие считают, что текущие архитектуры уже способны привести к значимым экономическим и социальным изменениям, даже без новых открытий. В то же время для достижения AGI или ASI, скорее всего, потребуются дополнительные научные прорывы. Чаще всего упоминаются задачи вроде непрерывного обучения и повышения эффективности обучения на малом количестве данных.
По оценкам экспертов, AGI может быть достигнут в течение 2–20 лет. Демис Хассабис (Demis Hassabis), Сэм Альтман (Sam Altman), Ян Лекун (Yann LeCun), Илья Суцкевер (Ilya Sutskever) и Дарио Амодеи (Dario Amodei) называют разные сроки, но никто не считает появление ASI фантастикой или делом далёкого будущего. Разногласия между исследователями касаются не самого факта достижения AGI, а деталей и темпов, с которыми это произойдёт.
#news#AGI
https://x.com/polynoamial/status/1994439121243169176
Кажется Sam не вернется в #openAI, а следовательно компанию покинет большое кол-во ключевых инженеров. В текущей конкурентной гонке за лидерство в ИИ, это может стать поворотным моментом для openAI, Microsoft, Google и Facebook.
Единственный способ спасти компанию - это выпустить chatGPT 5 a.k.a #AGI
Whale 0x900, the 2nd-largest non-CEX holding wallet of $AGIX, withdrew 1.21M $AGIX ($1.63M) from #Binance at $1.35 ~6 hours ago.
Notably, the whale now holds 10.21M AGIX ($13.8M), of which 8M #AGI (the old version of $AGIX) was withdrawn from Binance at only ~$0.041 ($330K) in Oct 2020!
Is the whale preparing for the upcoming #AI wave after $FET, $AGIX and $OCEAN are eventually merged into the $ASI alliance?
Follow @spotonchain and turn on your 🔔 at https://platform.spotonchain.ai/profile?address=0x900a569159549d76b7bbe93e1faae0e741eb4f0f