🌟OpenJarvis: фреймворк все-в-одном для ИИ-агентов
Stanford SAIL замерили, насколько эффективно локальные языковые модели конвертируют электроэнергию в полезные вычисления и назвали этот показатель "intelligence per watt".
Они прогнали больше миллиона реальных запросов через 20+ моделей на 8 разных ускорителях и выяснили: с 2023 по 2025 год эффективность локального инференса выросла в 5,3 раза, а современные небольшие модели уже справляются с 88,7% обычных чат- и ризонинг-запросов. Железо и алгоритмы готовы, но не хватало софта.
Так появился OpenJarvis: открытый фреймворк, который превращает эти выводы в инфраструктуру для персональных ИИ-агентов, работающих на устройстве пользователя.
Авторы проводят параллель с PyTorch: OpenJarvis должен стать для локального ИИ тем, чем PyTorch стал для глубокого обучения - стандартной инфраструктурой, на которой строится все остальное.
Фреймворк структурирован вокруг 5 примитивов:
🟢Intelligence - слой языковых моделей с единым каталогом, где не нужно самому отслеживать релизы и считать память.
🟢Engine - бэкенд инференса: Ollama, vLLM, SGLang, llama.cpp, Apple Foundation Models и другие. Openjarvis сам определяет железо и рекомендует конфигурацию.
🟢Agents - слой поведения: роли оркестратора и исполнителя рутинных сценариев, адаптированные под ограниченный контекст и память на устройстве.
🟢Tools & Memory - интеграции через MCP и Google A2A, семантическая индексация локальных документов, подключение к iMessage, Telegram и т.д.
🟢Learning - механизм адаптации: локальные трейсы превращаются в обучающие данные через SFT, LoRA и GRPO. Система сама упаковывает этот процесс в рабочий флоу.
Отдельная фишка - подход к эффективности. OpenJarvis профилирует энергопотребление на NVIDIA, AMD и Apple Silicon с интервалом 50 мс.
Использовать можно через CLI, браузерный дашборд или десктопное приложение для macOS, Linux и Windows.
⚠️ Для полного функционала (безопасность, инструменты, агенты) потребуется Rust.
Помимо самого проекта, команда запустила конкурс-лидерборд экономии денег, энегрии и компьюта, в котором принять участие может любой желающий. В качестве приза самому экономному обещают Mac Mini.
📌Лицензирование: Apache 2.0 License.
🟡Статья
🟡Документация
🟡Сообщество в Discord
🖥GitHub
@ai_machinelearning_big_data
#AI#ML#Framework#OpenJarvis#Stanford
Polymathic - междисциплинарный ИИ
Ох, какая классная межуниверситетская инициатива - Polymathic🔥.
Задача, которую они решают, заключается в создании ИИ моделей, которые используют информацию из наборов данных различных модальностей и разных научных областей, которые не имеют общего представления (например, текста). Такие модели могут использоваться в качестве надежных базовых показателей или можно сделать файн-тьюнинг для конкретных приложений. Такой подход может демократизировать ИИ в науке, предоставляя более сильные априорные модели для общих концепций, таких как причинность, измерение, обработка сигналов, и т.п.
В общем история с базовыми и генеративными моделями понемногу адаптируется к научным задачам, за что мы топим тоже 🤘. Реальных проектов пока немного, но есть, например, Multiple Physics Pretraining - подход к разработке больших предобученных физических суррогатных моделей или AstroClip - видимо модель CLIP для астрофизиков.
На данный момент кроме команды ученых есть и крутой консультативный совет, например, с Яном Лекуном (Yann LeCun) из Meta AI.
#AI#ML
Интенсивность выбросов парниковых газов при добыче геологического водорода
До добычи геологического водорода еще далековато. Если вообще это когда-нибудь случится 😑. Но профессор Стэнфорда Адам Брандт решил немного заранее посчитать насколько интенсивным с точки зрения выбросов будет возможная добыча геологического водорода.
Он опубликовал статью, где приведен оценочный жизненный цикл производства и обработки геологического водорода. Для приблизительной оценки углеродной интенсивности жизненного цикла водорода, профессор использовал основы инженерной физики и химии. В статье описано несколько сценариев. Базовый сценарий включает газ с содержанием водорода на уровне 85 моль%, а также азот (12%) и метан (1,5%), и другие инертные газы (1,5%). Производительность, глубина и другие параметры добычи взяты из данных о бурении природного газа в США на текущий момент. По приведенным расчетам, эксплуатация скважин, сепарация и компрессия газа приводят к интенсивности парниковых газов приблизительно 0,4 кг CO2экв. на килограмм добытого водорода. Прогнозиреутся, что самыми крупными источниками выбросов парниковых газов будут являться неуправляемые потери из системы и выбросы, связанные со строительством скважин и оборудования. В статье также проводится анализ чувствительности, при различных составах газа или методах производства. Результаты наиболее чувствительны к составу газа, в частности, к количеству водорода и метана в исходном потоке газа (на картинке).
Статья📖
#hyrdogen#Stanford
Минутка личных новостей 😎
Вчера прошел через выпускную церемонию Стэндфордской Школы Устойчивого Развития. Было интересно, весело и помпезно как любят американцы. Всплакнуть бы, но чувства немного смазались, ведь прошел почти год с момента защиты моей диссертации. Я-то и диплом уже давно получил. Так как официальная часть награждения проходит в единственный день в году, когда чествуют всех выпускников Стэнфорда, я нарядился в регалии в первый, и, возможно последний раз.
В академической среде есть понятие “hooding ceremony”, это когда профессор надевает докторский капюшон через голову выпускника, что свидетельствует об их успешном завершении докторантуры. Типа щегол теперь имеет право носить разноцветный шелковый шарфик поверх мантии 👨🎓. Меня посвящал Профессор Тапан Мукерджи, мой, можно сказать, научный руководитель. Когда-то я боялся притрагиваться к его научным книгам, потому что для меня они были слишком заумные, недосягаемая величина. Но потом судьба распорядилась так, что я стал делать исследования под его менторством. И вот финальный аккорд - фоточка с ним.
Кстати, если у вас есть вопросы по поводу поступления на PhD в американский ВУЗ, то можете задавать. Поделюсь опытом. Тут главное самому себе ответить на вопрос нужно ли это. И ответ этот ох какой неоднозначный и сугубо индивидуальный, особенно для таких “возрастных” кандидатов как я.
#stanford#personal
#AI
Немного ИИ-теории
❗️В недавнем иске против компании OpenAI Илон Маск утверждал, что GPT-4 является ранним AGI, по сути равным человеческому интеллекту.
Что же такое AGI и когда он появится?
👤Сэм Альтман, CEO Open AI определяет AGI (artificial general intelligence) как интеллект, равный уровню обычного человека, который можно было бы принять в команду как сотрудника. Также популярно определение AGI как «системы, способной выполнить любую когнитивную задачу, доступную человеку».
📎Для справки: существует несколько видов (уровней развития) ИИ, а именно узкий ИИ (narrow, ANI), общий ИИ (genreal, AGI) и супер ИИ (super AI, ASI).
⏲Исследователи никак не могут прийти к консенсусу относительно даты появления AGI. По результатам Expert Survey on Progress in AI, существует 50% шанс того, что AGI появится до 2059 года. Тем не менее, поле ИИ изменяется постоянно и становится сложным оставаться в курсе событий.
⭐️Для этого мы нашли крупнейшее русскоязычное AGI-сообщество agirussia.org — у них есть канал и группа в Telegram.
🌐еще проходят еженедельные онлайн-семинары по тематике AGI на русском языке, записи семинаров за последние несколько лет доступны на YouTube и их сообществе в ВК.
Держим руку на пульсе ИИ⭐
⭐️Автор, Анна, @qcuqueen
Хакатончик от Xeek
Two Birds, One Neural Network - так называется новый хакатон от Xeek в области Generative AI. Звучит как-будто нужно сделать свой Dalle-E2, но на самом деле, задача выглядит немного иначе. По условиям хакатона, участникам нужно сделать нейронную сеть, которая максимизирует разнообразие генерируемых результатов, отвечающих двум условиям. Авторы хакатона проводят параллели с добавлением двух геофизических измерений для ограничения сценариев геологических моделей. Буквально, нужно построить нейронную сеть, которая генерирует разнообразные значения x0, x1, сохраняя при этом их природу в виде нисходящих или восходящих прямых линий, удовлетворяющих заданным функциям y1, y2, как показано на картинке.
Более подробное описание - тут. Призовой фонд $40К (первое место $19.5K).
#hackathon#AI#ML
❤️Интервью Павла Дурова на русском в 4k@durov
🎞 Ссылка на Youtube
Решил поиграться с нашим #AI и перевести видео с липсинком полностью через бот @plasma_gpt_ai_bot На русский в разы сложнее переводить, чем на английский.
Смотрите, что получилось)