⚡ Пентагону приказано готовиться к AGI
На этой неделе на голосование выходит оборонный бюджет на $900 млрд, и внутри есть исторический прецедент.
Впервые Конгресс формально обязал Минобороны США создать к апрелю 2026 года “Комитет по будущему ИИ”.
Его задача - изучать и готовиться к AGI: технологиям, которые могут сравняться или превзойти человека в любых задачах.
Это первый раз, когда военное ведомство США получает прямой мандат анализировать не просто ИИ, а потенциал сверхразумных систем.
Задачи комитета:
1) Изучать продвинутые технологии, которые могут привести к AGI: большие модели, агентные системы, нейроморфные вычисления.
2) Анализировать, как к AGI могут идти Китай, Россия, Иран и Северная Корея, где они могут догнать или опередить США.
3) Сформировать стратегию, где человек остаётся главным.
В законопроекте прямо прописано: Пентагон должен обеспечить механизмы, позволяющие человеку отменять решения ИИ - технически, политически и операционно.
Комитет возглавят заместитель министра обороны и зампред Объединённого комитета начальников штабов, совместно с руководителями видов войск и главным AI-офицером Пентагона.
Итоговый доклад в Конгресс - до января 2027 года.
AGI может прийти через пять лет или через пятьдесят, но США официально начали к нему подготовку.
https://www.perplexity.ai/page/pentagon-ordered-to-form-ai-st-3qDBlb0uS0SHVH5mHEjxJw
@ai_machinelearning_big_data
#ml#ai#agi
Через 2 года на Земле уже будет СуперИнтеллект.
Экспериментальное обоснование этого на реальных проверенных данных.
Как можно прогнозировать появление СуперИнтеллекта, если для этого понятия даже нет общепринятого количественного определения?
Как можно прогнозировать скорость прогресса количественных показателей интеллектуальных способностей ИИ на горизонте нескольких лет, если никто не берется предсказывать способности GPT-5 – модели, ожидаемой через несколько месяцев?
Как это ни удивительно, но ответ на оба вопроса один – да, можно (и вполне обоснованно).
Поясню это на диаграмме профессора Итана Молика.
• Диаграмма показывает прогресс LLM ровно за 2 года с появления оригинальной модели GPT-4 в июне 2023 по сегодня (июнь 2025)
• Прогресс показан для двух основных показателей:
– стоимость использования модели (в расчете на 1 млн токенов (каждый токен это единица текста от буквы до короткого слова);
– интеллектуальная способность модели, подтверждаемая её показателем прохождения тестов GPQA Diamond Score (показатель того, насколько успешно ИИ справляется с решением самых сложных, требующих экспертных рассуждений задач, которые ставят в тупик даже эрудированных людей с доступом к поисковикам).
Посмотрите в левый нижний угол диаграммы на способности и стоимость оригинальной модели GPT-4 в июне 2023 и сравните с показателями сегодняшних моделей:
• Рост интеллектуальных способностей +106%
(с уровня студента-старшекурсника университета (знает основы, но далеко не эксперт) до уровня, превышающего средний среди обладателей профильных PhD
• Снижение стоимости использования модели, примерно – 100%
N.B. GPQA — это набор очень сложных вопросов уровня аспирантуры в таких областях, как биология, физика и химия. Его главная особенность в том, что вопросы "защищены от поиска в Google". Это означает, что для ответа на них недостаточно просто найти информацию в Интернете. Требуется глубокое понимание темы, умение рассуждать и связывать воедино сложные концепции. Это и есть суть GPQA, а Diamond score — это оценка за самую сложную часть этого экзамена.
Какой вывод можно сделать из диаграммы?
• Пока нет никаких признаков прекращения быстрого роста возможностей ИИ при постоянно снижающихся затратах
• За следующие 2 года возможности ИИ вполне могут превысить уровень PhD не менее, чем уровень PhD выше студента-старшекурсника.
Как называть таких «ИИ-сверхумников» будет уже не важно.
Важно, что их будет много, и каждый из них будет обладать несопоставимыми с людьми возможностями.
И это будет, хотим мы этого или нет.
#AGI
Лауреат премии Тьюринга: путь к AGI лежит через опыт, а не датасеты
На NeurIPS 2025 лауреат премии Тьюринга Рич Саттон (Rich Sutton) представил концепцию OAK (Options and Knowledge), архитектуру для построения суперинтеллекта, основанную на непрерывном обучении через взаимодействие с окружающим миром. По его словам, индустрия AI зашла в локальный минимум: разработчики AI пытаются воспроизвести человеческое мышление вместо того, чтобы строить настоящее агентное поведение.
Он напомнил о выводе из прошлых исследований о том, что человеческие эвристики и архитектуры в долгосрочной перспективе уступают чистому обучению на опыте. Учёный считает Backpropagation проблемным и временным решением.
OAK состоит из 8 процессов, выполняемых параллельно: от обучения политике и построения подзадач до планирования и оценки. Все шаги уже решаемы, кроме одного — автоматической генерации новых признаков состояния. Именно в этом, по Саттону, сейчас главная научная проблема на пути к AGI.
Суперинтеллект возникнет не из человеческих датасетов, а из собственного опыта агента, в потоке действий и наблюдений. Такой агент сам задаёт себе цели, придумывает абстракции, обучается без вмешательства человека и адаптируется к меняющемуся миру. Это противопоставляется нынешнему тренду RLHF.
Саттон завершил выступление призывом вернуться к фундаментальным идеям AI: учить агентов непрерывно, как людей (continual learning), фокусироваться не на мгновенной выгоде, а на среднем результате в долгосрочной перспективе (average-reward RL), давать моделям самим находить, как лучше учиться (meta-learning step sizes) и строить знания не по человеческим подсказкам, а на основе собственного опыта (self-discovered knowledge).
Фокус NeurIPS в этом году сместился с параметров моделей к надёжности агентов, памяти, безопасности и качеству данных.
#news#AGI
https://neurips.cc/
Эксперт из OpenAI считает, что для AGI потребуются существенные усилия, но его появление возможно в ближайшие десятилетия
Ноам Браун (Noam Brown), исследователь OpenAI, работающий над ризонингом, призвал не ориентироваться на искажённую картину, которую создают соцсети и медиа в обсуждении AI. Обсуждение часто сводится к полярным взглядам: одни полностью отрицают значимость LLM, другие уверены, что суперинтеллект почти достигнут. На деле между ведущими исследователями наблюдается широкое согласие по ключевым вопросам.
Многие считают, что текущие архитектуры уже способны привести к значимым экономическим и социальным изменениям, даже без новых открытий. В то же время для достижения AGI или ASI, скорее всего, потребуются дополнительные научные прорывы. Чаще всего упоминаются задачи вроде непрерывного обучения и повышения эффективности обучения на малом количестве данных.
По оценкам экспертов, AGI может быть достигнут в течение 2–20 лет. Демис Хассабис (Demis Hassabis), Сэм Альтман (Sam Altman), Ян Лекун (Yann LeCun), Илья Суцкевер (Ilya Sutskever) и Дарио Амодеи (Dario Amodei) называют разные сроки, но никто не считает появление ASI фантастикой или делом далёкого будущего. Разногласия между исследователями касаются не самого факта достижения AGI, а деталей и темпов, с которыми это произойдёт.
#news#AGI
https://x.com/polynoamial/status/1994439121243169176
OpenAI представила шкалу оценки развития AI
Она состоит из пяти уровней и предназначена для отслеживания прогресса в создании AGI —искусственного интеллекта, способного превзойти естественный.
Уровни развития AI по версии OpenAI:
1. Чат-боты. AI способен общаться на естественном языке;
2. Рассуждающие. Решение задач на уровне образованного человека;
3. Агенты. Система, способная совершать действия;
4. Инноваторы. AI может помогать изобретать;
5. Организации. AI может выполнить работу целой организации.
OpenAI полагает, что её технология уверенно прошла первый уровень и приближается ко второму.
Компания ранее определяла AGI как «высокоавтономную систему, превосходящую людей в большинстве экономически значимых задач». По оценкам главы OpenAI Сэма Альтмана, такой уровень развития AI будет достигнут в ближайшие 10 лет.
#AI#OpenAI#AGI
https://www.bloomberg.com/news/articles/2024-07-11/openai-sets-levels-to-track-progress-toward-superintelligent-ai?srnd=technology-vp
Ян Лекун, главный исследователь AI в Meta (организация запрещена в России и признана экстремистской), дал интервью изданию The Wall Street Journal, где рассказал, почему даже самый совершенный нынешний AI глупее обычной домашней кошки, а также почему нам не стоит ждать появления AGI в ближайшее время. Краткое содержание интервью - во вложении.
#news#AI#AGI
Кажется Sam не вернется в #openAI, а следовательно компанию покинет большое кол-во ключевых инженеров. В текущей конкурентной гонке за лидерство в ИИ, это может стать поворотным моментом для openAI, Microsoft, Google и Facebook.
Единственный способ спасти компанию - это выпустить chatGPT 5 a.k.a #AGI
Что за «потенциально страшный прорыв» совершили в OpenAI.
Секретный «проект Q*» создания «богоподобного ИИ».
Сегодняшний вал сенсационных заголовков, типа «OpenAI совершила прорыв в области искусственного интеллекта до увольнения Альтмана», «Исследователи OpenAI предупредили совет директоров о прорыве в области искусственного интеллекта перед отстранением генерального директора» и т.п., - для читателей моего канала не вовсе новости. Ибо об этом я написал еще 4 дня назад.
Но от этого вала новостей, публикуемых сегодня большинством мировых СМИ, уже нельзя отмахнуться, как от моего скромного поста. И это означает, что СМО (специальная медийная операция), внешне выглядевшая, как низкопробное, скандальное ТВ-шоу, вовсе таковой не была. Ибо имела под собой более чем веские основания – забрезжил революционный прорыв на пути к тому, что известный эксперт по ИИ Ян Хогарт назвал «богоподобным ИИ».
Из чего следовала необходимость срочных кардинальных действий и для Сама Альтмана, и для Microsoft:
• Microsoft – чтобы не оказаться с носом, уже вложив в OpenAI $13 млрд (дело в том, что по имеющемуся соглашению, все действующие договоренности между Microsoft и OpenAI остаются в силе, лишь до момента, когда совет директоров OpenAI решит, что их разработки вплотную подошли к созданию сильного ИИ (AGI). И с этого момента все договоренности могут быть пересмотрены).
• Сэму – чтобы успеть сорвать банк в игре, которую он еще 7 лет назад описал так:
«Скорее всего, ИИ приведет к концу света, но до того появятся великие компании».
И Сэму, и Microsoft требовалось одно и то же - немедленный перехват управления направлением разработок OpenAI в свои руки. И сделать это можно было, лишь освободившись от решающего влияния в совете директоров OpenAI сторонников «осторожного создания AGI на благо всему человечеству». Что и было сделано.
Однако, точного ответа, что за прорыв совершили исследователи OpenAI, мы пока не имеем.
Все утечки из среды разработчиков OpenAI упоминают некий «секретный «проект Q*» [1] по радикальному повышению производительности лингвоботов на основе LLM.
Известно, что эта работа велась, как минимум, по трем направлениям:
1. Совершенствование RAG (Retrieval Augmented Generation) – сначала поиск релевантной информации во внешней базе в целях формирования из нее оптимального промпта, и лишь затем обращение к системе за ответом). Кое-какие результаты такого совершенствования были недавно показаны на OpenAI DevDAy. И они впечатляют [2].
2. Комбинация Q-обучения и алгоритма A*.
Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например, в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.
Q-обучение — это метод обучения без учителя в области искусственного интеллекта, который используется для обучения программ принимать решения. Представьте, что вы учите робота находить выход из лабиринта. Вместо того чтобы прямо говорить ему, куда идти, вы оцениваете его действия, давая баллы за хорошие шаги и снимая за плохие. Со временем робот учится выбирать пути, приводящие к большему количеству баллов. Это и есть Q-обучение — метод, помогающий программам самостоятельно учиться на своем опыте.
3. Поиск траектории токена по дереву Монте-Карло в стиле AlphaGo. Это особенно имеет смысл в таких областях, как программирование и математика, где есть простой способ определить правильность (что может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач)
#ИИ#AGI
1 https://disk.yandex.ru/i/9zzI_STuNTJ6kA
2 https://habrastorage.org/r/w1560/getpro/habr/upload_files/f9a/994/b06/f9a994b060188b43ba61061270213bca.png