Најди сличен содржај

🌟ToolOrchestra: буст ИИ-потенциала за счет координации моделей и инструментов. NVIDIA совместно с Университетом Гонконга разработала ToolOrchestra - методику обучения дирижеров для ИИ-агентов, и выпустила на ее основе модель Orchestrator-8B. Это модель, базирующаяся на архитектуре Qwen3 предназначена для оркестрации других моделей и инструментов. Вместо того чтобы решать задачу в одиночку, модель чередует этапы рассуждения с вызовом внешних инструментов. В ее арсенале поисковые движки, интерпретаторы кода и другие LLM, от узкоспециализированных математических до универсальных гигантов Claude и Llama-Nemotron. Обучение проводилось с помощью GRPO, который поощрял модель не только за точность, но и за экономическую эффективность. В результате решение получилось в 2,5 раза быстрее и на 70% дешевле в эксплуатации, чем использование одной лишь флагманской модели для всех этапов задачи, а сама Orchestrator-8B набрала 37,1% в сложнейшем бенчмарке Humanity's Last Exam , обойдя GPT-5 (35,1%). 📌Лицензирование кода : Apache 2.0 License. 📌Лицензирование модели: NVIDIA License. 🟡Страница проекта 🟡Модель 🟡Arxiv 🟡Датасет 🖥GitHub @ai_machinelearning_big_data #AI#ML#LLM#Orchestrator#NVIDIA

🌟NVIDIA Jet-Nemotron: гибридная архитектура, которая быстрее SOTA-моделей в 53 раза. Jet-Nemotron - новая архитектура языковых моделей, которая, по заявлениям NVIDIA, превосходит по эффективности топовые опенсорс-модели. На H100 обещают ускорение пропускной способности при генерации до 53.6 раз, если работать с контекстом в 256 тыс. токенов и максимальным размером батча. Такой скачок производительности стал возможен благодаря двум ключевым инновациям: пайплайну PostNAS и новому блоку линейного внимания JetBlock. 🟡PostNAS (Post Neural Architecture Search). Суть PostNAS состоит в отказе от дорогостоящего обучения новых архитектур с нуля. Вместо этого берут уже предварительно обученную модель и запускают процесс постобработки. Пайплайн сначала анализирует модель и определяет, какие слои внимания вносят наибольший вклад в её работу, а какие - не так уж и важны. Дальше он ищет оптимальное расположение для слоёв полного внимания и подбирает улучшенный дизайн для остальных блоков. 🟡JetBlock - модуль линейного внимания. Его фишка - динамические сверточные ядра, генерируемые на лету в зависимости от входных данных и применяемые к value-токенам. Прямое сравнение с Mamba2 Block, проведенное на идентичных данных и с одинаковыми параметрами обучения, показало существенный прирост в точности при сохранении той же пропускной способности во время обучения и инференса. 🟡Третий элемент успеха - аппаратно-ориентированный поиск архитектуры. Вместо того чтобы использовать количество параметров в качестве прокси-метрики для эффективности, авторы напрямую оптимизируют архитектуру под целевое железо (H100), используя в качестве цели именно пропускную способность генерации. Ключевое открытие тут в том, что размер KV-кэша, а не количество параметров, является критическим фактором, ограничивающим скорость генерации на длинных контекстах, поскольку декодирование упирается в пропускную способность памяти. Фиксируя размер кэша, они провели поиск по размерности ключей/значений и числу голов внимания, обнаружив конфигурации, которые при том же объеме кэша и схожей пропускной способности используют больше параметров для достижения более высокой точности. Итоговый дизайн Jet-Nemotron, построенный на базе Qwen 2.5, включает всего 2 full-attention слоя (для retrieval) и 2 слоя со скользящим вниманием (SWA, для MMLU), остальные — JetBlock. Что касается конкретных моделей, то уже есть Jet-Nemotron-2B и Jet-Nemotron-4B. По результатам тестов, они как минимум не уступают по точности ведущим эффективным моделям, например, Qwen3, на целом ряде бенчмарков. При этом младшая модель Jet-Nemotron-2B работает в 21 раз быстрее, чем Qwen3-1.7B-Base, а старшая, Jet-Nemotron-4B, обгоняет её уже в 47 раз. ▶️ Код и веса моделей обещают опубликовать сразу после завершения юридической проверки. 🟡Страница проекта 🟡Arxiv 🖥GitHub (Coming Soon) @ai_machinelearning_big_data #AI#ML#LLM#NVIDIA#JetNemotron

Weekly AI Opportunities and Updates 1️⃣ OpenAI launched o3-mini model in chat and API, with function calls and structured output support. Price reduced to just above DeepSeek R1. Read more 2️⃣ Jack Dorsey's Block released Goose, an open-source AI agent for engineering tasks, using Model Context Protocol. Read about it 3️⃣ Groq added support for DeepSeek R1, achieving vastly superior inference speeds with LPU chips. See details 4️⃣ Samsung's XR glasses Project Moohan reviewed with emphasis on AI assistant Gemini and Android XR OS. Watch the review 5️⃣ Appfigures report shows US accounts for 2/3 of AI app revenue, with over half of ChatGPT users ages 18-24, mostly men. View the report #AI#Crypto#VC#OpenAI#DeepSeek#Groq#Samsung#Block#ChatGPT#MobileApps#Engineering#XR#Startups#ElizaOS#TON#DeFi#Blockchain#Web3#US#MarketTrends#AppFigures#AIagent

🚀 $XROCK is now available on TON Hedge GMGM! 🚀 We’re excited to share that $XROCK is now available onTON Hedge for purchasing options. 💎What is TON Hedge? #TONHedge is a decentralized platform for trading options on TON blockchain. You can easily buy put and call options to hedge risks or profit from sharp price swings. Also you can provide liquidity in #USDT and earn income from selling options. Thanks to smart contracts, the process of selling and executing options is fully transparent for users. #xRocket continues to build partnerships within the #TON ecosystem, unlocking new opportunities for $XROCK holders. Buy $XROCK now on xRocket 🚀Good luck!

🐬DOLPHIN | AI PREDICTIONS 13.01.2024 00:00 GMT Expected 5% Profit/Loss in 24 Hours #OSMO | 1.7437 | PP: 82% | LP: 97% #SEI | 0.6791 | PP: 70% | LP: 99% #STX | 1.634 | PP: 68% | LP: 98% #SKL | 0.08865 | PP: 63% | LP: 91% #OM | 0.06588 | PP: 57% | LP: 98% #WNXM | 53.81 | PP: 26% | LP: 92% #CHR | 0.2573 | PP: 25% | LP: 99% #ICP | 12.232 | PP: 20% | LP: 93% #NEXO | 0.893 | PP: 18% | LP: 94% #BNB | 296.6 | PP: 5% | LP: 92% ——————————————————————— Total Predictions: 367 PP > 50%: 12 LP > 50%: 51 PP > 60%: 11 LP > 60%: 38 PP > 70%: 8 LP > 70%: 26 PP > 80%: 3 LP > 80%: 13 PP > 90%: 0 LP > 90%: 10 ——————————————————————— PP: Profit Probability | LP: Loss Probability

Google 希望向全美 600 万教育工作者免费提供 Gemini AI 培训 Google 计划向全美 600 万教育工作者免费提供 Gemini AI 培训，旨在尽早进入教育市场。此举将帮助 Google 熟悉美国教师群体，并确保其在教育领域的早期准入。THE DECODER 🏷#Google#Gemini#AI#Education 📢频道👥群组📝投稿

⚡️DeepSeek Engram: условная память LLM через поиск. DeepSeek опять шатают устои архитектуры трансформеров свежайшим пейпером, который доказывает, что новое — это хорошо и очень хитро забытое старое. Пока все пытаются запихнуть в LLM как можно больше слоев и параметров, DeepSeek задались вопросом: зачем тратить дорогой компьют на запоминание фактов, если их можно просто подсмотреть? Знакомьтесь: 🟡Engram — модуль, который возвращает нас к дедам с N-грамами. DeepSeek предлагает разделить "думалку" (MoE-слои) и "хранилище знаний" (Engram): 🟢Hashed N-grams: модуль смотрит на входящий текст и нарезает его на N-грамы (последовательности токенов). 🟢O(1) Lookup: система делает мгновенный запрос в гигантскую хэш-таблицу эмбеддингов - это чисто статический поиск. 🟢Context-Aware Gating: самый сок. Модель не просто слепо берет данные из "хранилища знаний" - специальный гейтинг-механизм решает: "Нам сейчас нужен факт из памяти или будем думать сами?". Если найденный N-грам релевантен контексту, он подмешивается в скрытое состояние. 🟢Tokenizer Compression: чтобы хранилище знаний не лопнуло от мусора, похожие токены в нем схлопывают в один ID, например, "Apple" и "apple". 🟡Баланс распределения ресурсов. Чтобы правильно поделить бюджет параметров между MoE и Engram посчитали сценарии масштабирования. График лосса от соотношения этих частей выглядит как буква U: 🟠Перекос в MoE (100% вычислений): модель тратит дорогие слои внимания на запоминание статики. Это неэффективно, лосс высокий. 🟠Перекос в Память (0% вычислений): модель превращается в гигантскую википедию. Она помнит факты, но у нее напрочь атрофируется ризонинг. Лосс тоже высокий. 🟢Золотая середина (дно U-кривой): 80% MoE и ~20% Engram. 🟡Тесты и результаты. DeepSeek обучили модель Engram-27B и сравнили ее с классической MoE-27B при одинаковом бюджете параметров и FLOPs. Итоги: Общее качество подросло: MMLU +3.4 пункта, HumanEval (код) +3.0. На длинном контексте - разнос. В тесте на поиск иголки (NIAH) точность выросла с 84.2 до 97.0. Модель разгрузила слои внимания от запоминания локальных паттернов, и оно сфокусировалось на глобальном контексте. Модель быстрее сходится. Engram берет на себя рутину в ранних слоях, тем самым позволяя модели сразу учиться сложным вещам. 🟡Архитектурный нюанс. Таблица эмбеддингов для Engram может быть запредельно огромной (в пейпере разгоняли до 100B параметров) и, очевидно, в VRAM это не влезает. Решили так: раз ID токенов известен до прогона слоя, то эти данные можно хранить в RAM и асинхронно подтягивать. В реале, оверхед от этой механики показал меньше 3%., т.е. мы получаем модель, которая знает больше, чем влезает в GPU, используя оперативку сервера. 🟡DeepSeek фактически легализовала подобие шпаргалок для LLM. Вместо того чтобы заставлять модель учить все наизусть, ей дают гигантский справочник. Теоретически, это открывает путь к прекрасному ИИ светлого будущего, который может иметь условно-бесконечную память, ограниченную только объемом оперативки, а не VRAM. Похоже, в V4 мы увидим как эта схема работает, ведь инсайдеры обещают у нее запредельные скилы. 🟡Техотчет 🖥Github @ai_machinelearning_big_data #AI#ML#LLM#Engram#Deepseek

🎧 AirPods endi gapni real vaqtda tarjima qiladi 🌍 Apple kompaniyasi kuzda AirPods quloqchinlariga nutqni boshqa tillarga sinxron tarjima qilish funksiyasini qo‘shadi. Bu haqda insayder Mark Gurman xabar berdi. Yangi funksiya iOS 19 bilan birga taqdim etilishi kutilmoqda. Bu yangilik biznes egalari, IT-mutaxassislar va xorijiy mijozlar yoki sayyohlar bilan ishlovchilar uchun juda foydali bo‘lishi mumkin. Batafsil Bloomberg saytidan o‘qishingiz mumkin. #Apple#AirPods#AI#Texnologiyalar 📡@kunuzai

By Voodoont #voodoont #арт#art#ai#sci_fi#planet#purple

#some #Fantasy #outdoor #portrait #арт#art#illustration#ai

If i get rich in crypto, there will be signs.... 😅 #crypto#bitcoin#BTC#cryptomeme#meme

You start saving money for the Bitcoin dip and finally understand why dad never spent on himself... 🥲 #crypto#bitcoin#BTC#cryptomeme#meme