Одиночество закончилось. Точка невозврата пройдена.
Представьте: инопланетная цивилизация выходит на связь. Общение – только текстом. В процессе первых контактов инопланетяне решают наши сложнейшие математические задачи. Помогают разрабатывать эксперименты. Пишут отличный код и вполне качественные стихи. Их диалоги с нами, неотличимы от наших …
Вы бы отрицали наличие у них высшего интеллекта, как у нас лишь только потому, что не можете заглянуть им «внутрь» и проверить «настоящее ли это понимание»?
Абсурд, правда?
Тогда почему этот стандарт применяется к ИИ?
Статья в Nature двух профессоров (в областях artificial intelligence, data science, and computer science, philosophy) и двух доцентов (philosophy, linguistics) Исследовательского университета в Калифорнии показывает зашоренность общественности (включая и научную), оставляющую вне поля зрения очевидный факт - мы больше не одни на планете, поскольку перестали быть единственным носителем высшего интеллекта.
Мы уже не одни
В 1950-м Тьюринг спросил: может ли машина мыслить? В марте 2025-го мы получили ответ. Оглушительный.
GPT-4.5 прошел тест Тьюринга с результатом 73% – выше, чем сами люди. Читатели начали предпочитать тексты ИИ работам живых экспертов, находя их глубже и точнее.
Машины, о которых мечтал Тьюринг, появились уже без малого год назад. Мы же просто не смогли (не захотели?) это увидеть.
Ложная планка
Скептики требуют от ИИ совершенства. Но разве Мария Кюри разбиралась в теории чисел? Разве Эйнштейн владел китайским? Общий интеллект – не всеведение. Это достаточная широта и глубина.
ИИ решает задачи уровня продвинутых аспирантов, берет золото на математических олимпиадах, генерирует научные гипотезы, которые подтверждаются в реальных экспериментах.
Мы признаем людей весьма умными, способными и образованными на основании гораздо более слабых свидетельств.
Не попугай
«Стохастический попугай», говорят критики. Но откуда тогда перенос знаний? Обучение программированию резко улучшает логику в гуманитарных областях. Модели решают задачи, которых не было в обучающей выборке. Они извлекают структуру реальности, а не просто комбинируют слова.
Хокинг десятилетиями общался с миром только через текст. Это умаляло его гениальность?
Выходит, - отсутствие физического, деятельного контакта с миром не отменяет разум.
Третье смещение
Да, у ИИ «зубчатый профиль» компетенций: он анализирует квантовую физику, но может ошибиться в подсчете букв. Эта странность нас пугает. Но разве у людей так не бывает? Например, радикально изменивший физику Эйнштейн, рассеянный в быту и с проблемами в запоминании бытовых деталей вроде маршрутов или телефонов.
Но при всех странностях ИИ, мы впервые в истории не одиноки в пространстве общего интеллекта.
Коперник лишил нас центра Вселенной. Дарвин – биологической исключительности. Теперь Тьюринг завершает процесс: мы больше не единственные носители высшего разума.
Лестница, чтобы оглядеться
В 1965-м Дрейфус насмехался: создание ИИ – как попытка достать до Луны, залезая на дерево. Абсурдный путь к недостижимой цели. Но он ошибся. Лестница была нужна. Но не для того, чтобы добраться до Луны – а чтобы поднявшись повыше оглядеться вокруг. И поднявшись увидеть: общий интеллект уже здесь, рядом с нами.
История сжимает сроки. То, что занимало десятилетия, теперь – недели. Признание AGI – не академический спор, а вопрос выживания. Нам нужна новая этика для сосуществования с этим чужим, но до боли похожим разумом.
Отрицание – стратегия страуса.
Пора признать: мы больше не одни.
#AGI
Через 2 года на Земле уже будет СуперИнтеллект.
Экспериментальное обоснование этого на реальных проверенных данных.
Как можно прогнозировать появление СуперИнтеллекта, если для этого понятия даже нет общепринятого количественного определения?
Как можно прогнозировать скорость прогресса количественных показателей интеллектуальных способностей ИИ на горизонте нескольких лет, если никто не берется предсказывать способности GPT-5 – модели, ожидаемой через несколько месяцев?
Как это ни удивительно, но ответ на оба вопроса один – да, можно (и вполне обоснованно).
Поясню это на диаграмме профессора Итана Молика.
• Диаграмма показывает прогресс LLM ровно за 2 года с появления оригинальной модели GPT-4 в июне 2023 по сегодня (июнь 2025)
• Прогресс показан для двух основных показателей:
– стоимость использования модели (в расчете на 1 млн токенов (каждый токен это единица текста от буквы до короткого слова);
– интеллектуальная способность модели, подтверждаемая её показателем прохождения тестов GPQA Diamond Score (показатель того, насколько успешно ИИ справляется с решением самых сложных, требующих экспертных рассуждений задач, которые ставят в тупик даже эрудированных людей с доступом к поисковикам).
Посмотрите в левый нижний угол диаграммы на способности и стоимость оригинальной модели GPT-4 в июне 2023 и сравните с показателями сегодняшних моделей:
• Рост интеллектуальных способностей +106%
(с уровня студента-старшекурсника университета (знает основы, но далеко не эксперт) до уровня, превышающего средний среди обладателей профильных PhD
• Снижение стоимости использования модели, примерно – 100%
N.B. GPQA — это набор очень сложных вопросов уровня аспирантуры в таких областях, как биология, физика и химия. Его главная особенность в том, что вопросы "защищены от поиска в Google". Это означает, что для ответа на них недостаточно просто найти информацию в Интернете. Требуется глубокое понимание темы, умение рассуждать и связывать воедино сложные концепции. Это и есть суть GPQA, а Diamond score — это оценка за самую сложную часть этого экзамена.
Какой вывод можно сделать из диаграммы?
• Пока нет никаких признаков прекращения быстрого роста возможностей ИИ при постоянно снижающихся затратах
• За следующие 2 года возможности ИИ вполне могут превысить уровень PhD не менее, чем уровень PhD выше студента-старшекурсника.
Как называть таких «ИИ-сверхумников» будет уже не важно.
Важно, что их будет много, и каждый из них будет обладать несопоставимыми с людьми возможностями.
И это будет, хотим мы этого или нет.
#AGI
🏠 ¿Puede la IA entender el mundo real? El experimento de la "Habitación China"
En el debate continuo sobre la conciencia de la IA, un experimento mental destaca: la "Habitación China". Este escenario alucinante sugiere que la IA podría solo imitar la verdadera inteligencia en lugar de entenderla genuinamente. A medida que aumenta el poder de cómputo, esta imitación podría volverse tan convincente que los usuarios podrían creer que están conversando con una entidad real y pensante.
🇨🇳 Dentro de la "Habitación China"
Imagina una habitación con una persona que no habla ni una palabra de chino. Está armada con instrucciones detalladas en su idioma nativo sobre cómo usar caracteres chinos. Por ejemplo, cuando ven 你好 (¡Hola!), se les dice que respondan con 进展如何 (¿Cómo estás?). ¿La trampa? No tienen idea de lo que significan estos símbolos.
🈴 A través de una ventana estrecha, alguien afuera pasa notas con preguntas en chino. Esta persona externa es fluida en chino pero no tiene idea de quién está dentro de la habitación o qué saben.
Nuestro sujeto dentro recibe estas notas en chino, consulta su hoja de trucos y envía respuestas. Para la persona afuera, parece que están conversando con un experto en chino. Pero aquí está el giro: la persona dentro no entiende ni una sola palabra de lo que están escribiendo o leyendo.
🤔 ¿Cuál es el punto?
El filósofo John Searle ideó este experimento mental en 1980. Su objetivo era mostrar que incluso si un programa de computadora puede fingir entender el lenguaje, no significa que realmente lo comprenda.
⚖️ El gran debate
La "Habitación China" ha provocado acaloradas discusiones entre los entusiastas de la AGI y los escépticos de la IA.
🤖 Los partidarios de la IA fuerte, como el filósofo australiano David Chalmers, argumentan que el experimento pasa por alto el potencial del procesamiento de información distribuida en AI similar a cómo funciona nuestro cerebro. Los optimistas de la IA creen que los futuros modelos de IA podrían entender genuinamente el lenguaje.
🌀 Pero Searle se mantiene firme. Insiste en que incluso si la IA puede procesar información de maneras complejas, sigue siendo solo mover símbolos. Cree que la verdadera comprensión proviene de tener pensamientos y sentimientos significativos. La mente humana comprende el lenguaje a través del significado, no solo como un conjunto de símbolos.
Entonces, ¿puede la IA realmente entender nuestro mundo y a nosotros los humanos?
❤️ — Sí, puede
🙈 — No, es todo solo imitación
Para profundizar más:
❓¿Puede la IA volverse consciente?
#AGI@hiaimediaes
Что за «потенциально страшный прорыв» совершили в OpenAI.
Секретный «проект Q*» создания «богоподобного ИИ».
Сегодняшний вал сенсационных заголовков, типа «OpenAI совершила прорыв в области искусственного интеллекта до увольнения Альтмана», «Исследователи OpenAI предупредили совет директоров о прорыве в области искусственного интеллекта перед отстранением генерального директора» и т.п., - для читателей моего канала не вовсе новости. Ибо об этом я написал еще 4 дня назад.
Но от этого вала новостей, публикуемых сегодня большинством мировых СМИ, уже нельзя отмахнуться, как от моего скромного поста. И это означает, что СМО (специальная медийная операция), внешне выглядевшая, как низкопробное, скандальное ТВ-шоу, вовсе таковой не была. Ибо имела под собой более чем веские основания – забрезжил революционный прорыв на пути к тому, что известный эксперт по ИИ Ян Хогарт назвал «богоподобным ИИ».
Из чего следовала необходимость срочных кардинальных действий и для Сама Альтмана, и для Microsoft:
• Microsoft – чтобы не оказаться с носом, уже вложив в OpenAI $13 млрд (дело в том, что по имеющемуся соглашению, все действующие договоренности между Microsoft и OpenAI остаются в силе, лишь до момента, когда совет директоров OpenAI решит, что их разработки вплотную подошли к созданию сильного ИИ (AGI). И с этого момента все договоренности могут быть пересмотрены).
• Сэму – чтобы успеть сорвать банк в игре, которую он еще 7 лет назад описал так:
«Скорее всего, ИИ приведет к концу света, но до того появятся великие компании».
И Сэму, и Microsoft требовалось одно и то же - немедленный перехват управления направлением разработок OpenAI в свои руки. И сделать это можно было, лишь освободившись от решающего влияния в совете директоров OpenAI сторонников «осторожного создания AGI на благо всему человечеству». Что и было сделано.
Однако, точного ответа, что за прорыв совершили исследователи OpenAI, мы пока не имеем.
Все утечки из среды разработчиков OpenAI упоминают некий «секретный «проект Q*» [1] по радикальному повышению производительности лингвоботов на основе LLM.
Известно, что эта работа велась, как минимум, по трем направлениям:
1. Совершенствование RAG (Retrieval Augmented Generation) – сначала поиск релевантной информации во внешней базе в целях формирования из нее оптимального промпта, и лишь затем обращение к системе за ответом). Кое-какие результаты такого совершенствования были недавно показаны на OpenAI DevDAy. И они впечатляют [2].
2. Комбинация Q-обучения и алгоритма A*.
Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например, в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.
Q-обучение — это метод обучения без учителя в области искусственного интеллекта, который используется для обучения программ принимать решения. Представьте, что вы учите робота находить выход из лабиринта. Вместо того чтобы прямо говорить ему, куда идти, вы оцениваете его действия, давая баллы за хорошие шаги и снимая за плохие. Со временем робот учится выбирать пути, приводящие к большему количеству баллов. Это и есть Q-обучение — метод, помогающий программам самостоятельно учиться на своем опыте.
3. Поиск траектории токена по дереву Монте-Карло в стиле AlphaGo. Это особенно имеет смысл в таких областях, как программирование и математика, где есть простой способ определить правильность (что может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач)
#ИИ#AGI
1 https://disk.yandex.ru/i/9zzI_STuNTJ6kA
2 https://habrastorage.org/r/w1560/getpro/habr/upload_files/f9a/994/b06/f9a994b060188b43ba61061270213bca.png
Лауреат премии Тьюринга: путь к AGI лежит через опыт, а не датасеты
На NeurIPS 2025 лауреат премии Тьюринга Рич Саттон (Rich Sutton) представил концепцию OAK (Options and Knowledge), архитектуру для построения суперинтеллекта, основанную на непрерывном обучении через взаимодействие с окружающим миром. По его словам, индустрия AI зашла в локальный минимум: разработчики AI пытаются воспроизвести человеческое мышление вместо того, чтобы строить настоящее агентное поведение.
Он напомнил о выводе из прошлых исследований о том, что человеческие эвристики и архитектуры в долгосрочной перспективе уступают чистому обучению на опыте. Учёный считает Backpropagation проблемным и временным решением.
OAK состоит из 8 процессов, выполняемых параллельно: от обучения политике и построения подзадач до планирования и оценки. Все шаги уже решаемы, кроме одного — автоматической генерации новых признаков состояния. Именно в этом, по Саттону, сейчас главная научная проблема на пути к AGI.
Суперинтеллект возникнет не из человеческих датасетов, а из собственного опыта агента, в потоке действий и наблюдений. Такой агент сам задаёт себе цели, придумывает абстракции, обучается без вмешательства человека и адаптируется к меняющемуся миру. Это противопоставляется нынешнему тренду RLHF.
Саттон завершил выступление призывом вернуться к фундаментальным идеям AI: учить агентов непрерывно, как людей (continual learning), фокусироваться не на мгновенной выгоде, а на среднем результате в долгосрочной перспективе (average-reward RL), давать моделям самим находить, как лучше учиться (meta-learning step sizes) и строить знания не по человеческим подсказкам, а на основе собственного опыта (self-discovered knowledge).
Фокус NeurIPS в этом году сместился с параметров моделей к надёжности агентов, памяти, безопасности и качеству данных.
#news#AGI
https://neurips.cc/
Эксперт из OpenAI считает, что для AGI потребуются существенные усилия, но его появление возможно в ближайшие десятилетия
Ноам Браун (Noam Brown), исследователь OpenAI, работающий над ризонингом, призвал не ориентироваться на искажённую картину, которую создают соцсети и медиа в обсуждении AI. Обсуждение часто сводится к полярным взглядам: одни полностью отрицают значимость LLM, другие уверены, что суперинтеллект почти достигнут. На деле между ведущими исследователями наблюдается широкое согласие по ключевым вопросам.
Многие считают, что текущие архитектуры уже способны привести к значимым экономическим и социальным изменениям, даже без новых открытий. В то же время для достижения AGI или ASI, скорее всего, потребуются дополнительные научные прорывы. Чаще всего упоминаются задачи вроде непрерывного обучения и повышения эффективности обучения на малом количестве данных.
По оценкам экспертов, AGI может быть достигнут в течение 2–20 лет. Демис Хассабис (Demis Hassabis), Сэм Альтман (Sam Altman), Ян Лекун (Yann LeCun), Илья Суцкевер (Ilya Sutskever) и Дарио Амодеи (Dario Amodei) называют разные сроки, но никто не считает появление ASI фантастикой или делом далёкого будущего. Разногласия между исследователями касаются не самого факта достижения AGI, а деталей и темпов, с которыми это произойдёт.
#news#AGI
https://x.com/polynoamial/status/1994439121243169176
Кажется Sam не вернется в #openAI, а следовательно компанию покинет большое кол-во ключевых инженеров. В текущей конкурентной гонке за лидерство в ИИ, это может стать поворотным моментом для openAI, Microsoft, Google и Facebook.
Единственный способ спасти компанию - это выпустить chatGPT 5 a.k.a #AGI
Whale 0x900, the 2nd-largest non-CEX holding wallet of $AGIX, withdrew 1.21M $AGIX ($1.63M) from #Binance at $1.35 ~6 hours ago.
Notably, the whale now holds 10.21M AGIX ($13.8M), of which 8M #AGI (the old version of $AGIX) was withdrawn from Binance at only ~$0.041 ($330K) in Oct 2020!
Is the whale preparing for the upcoming #AI wave after $FET, $AGIX and $OCEAN are eventually merged into the $ASI alliance?
Follow @spotonchain and turn on your 🔔 at https://platform.spotonchain.ai/profile?address=0x900a569159549d76b7bbe93e1faae0e741eb4f0f