TGTGInsighttelegram intelligenceLIVE / telegram public index
← КриптоАтака 👀

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @cryptoattack · Post #20249 · 30 ное.

🎧Главное за сегодня: 🗽Хроники#BTC#ETH#ETF: - Grayscale представила поправки к Трастовому соглашению #GBTC - Hashdex встретились с SEC - SEC подтвердила заявку на спот ETH-ETF 🔥#BTC MicroStrategy приобрела 16 130 BTC 🏦#BNB Binance запустили пилотную программу банковского хранения залога 🇬🇧#HOOD Robinhood снова пробует запуститься в Великобритании 🇮🇳#ALGO Фонд Algorand расширяет свое присутствие в Индии 🇧🇷 Бразилия введет 15% налог на криптодоходы, хранящиеся на оффшорных биржах 🇰🇿 Canaan возобновляет добычу #BTC в Казахстане 🇧🇷#GLMR Moonbeam, DUX и Grupo RÃO запустили программу лояльности Web3 в Бразилии 🇦🇪 Fasset получили лицензию VASP в Дубае 🇺🇸#макроСША: - PCE Price index (окт): - м/м: 0% (пред: +0.4%) - г/г: +3% (пред +3.4%); - Initial Jobless Claims: 218 тыс (пред 209 тыс) 🏴‍☠#KNC Хакер KyberSwap хочет получить полный контроль над протоколом 🆕 UPBIT листит#ID🚀 💰#HOOK Hooked запустит экосистемный фонд на 50 млн $ 🏴‍☠Взломан горячий кошелёк Nobitex 🙋‍♂#ARB RARI запустил L2 RARI Chain на Arbitrum 🥳#SXP Solar Banking и Solar Card готовы к тестированию 🦾 AntPool возместит рекордную комиссию в размере 3 млн $ в #BTC 🙋‍♂ CoinList открыл регистрацию для BitsCrunch 🙅‍♂#WHITE Whiteheart закрывается 🔄#INJ Injective скоро выпустит "крупнейшее обновление" основной сети 🥳#FOREзапустили свою платформу прогнозирования 📱#GAL Мобильное приложение Galxe доступно на Android и TestFlight 🥳#COTIзапустили COTI Foundation 🙋‍♂#YFI#MAIC Yearn v3 запущена на Polygon 👀#STORJанонсировали Storj Select 🥳#DATA Streamr принят в программу запуска Web3 Google Cloud 🤝Партнёрства: - #ACH Alchemy Pay запартнёрились с SEPA🚀 - #ALGO Algorand запартнёрились с ПРООН и URECA🇲🇳 - #UNI Uniswap Labs запартнёрились с Talos - #MNT#GAL Galxe сотрудничает с Mantle - #EURSсотрудничает с Stellar #XLM - #QUICK#MANTA QuickSwap интегрирует Steer Protocol (Manta Pacific) - #NEARзапартнёрились с #PYTH #CPOOL#OKB#OKT Web3 Wallet OKX интегрирован с Clearpool - #SEIзапустили Bug Bounty Program в партнерстве с Immunefi - #LINK SAO запартнёрились с Chainlink 🕵‍♂Активность китов и SmartMoney: - На Coinbase заводят#BTC на сотни млн $ - новый кошелёк накопил 10 796 #BTC - 100 000 #ETHвывели с Coincheck и 30 000 #ETHвывели с BitDao - Cumberland перевели 1,8 млн #OP на CEX - кит выводит свою крипту с Binance - команда #HOOKзаводит токены на Binance - кошельки выводят#ID с бирж для подготовки к депозиту на Upbit - мультиподписной адрес участника #MEMEперевел на новый адрес 1,034 млрд MEME - ARK закупает акции Robinhood #HOOD и продаёт #COIN 📊Графики: - топ-100 кошельков #TUSDпродали 28% своих холдингов - киты активно накапливают#MATIC🐳 - более 75% игр Web3 оказались неудачными🎮 - ТОП проектов по росту TVL в ноябре 💰Сборы средств: - #POKTGrove - 7,9 млн $ - MITH - 3,5 млн $ ✏️События на завтра: 🔓 Разлок: 1inch (#1INCH) - 9,48% of Circ.Supply ($35,52m) - Hedera (#HBAR) - 0,54% of M.Cap ($11,51m) - SKALE (#SKL) - 2,81% of M.Cap ($6,65m) - Vulcan Forged (#PYR) - 0,84% of M.Cap ($1,34m) - Aurory (#AURY) - 1,63% of M.Cap ($1,11m) - Solend (#SLND) - 6% of M.Cap ($1,99m) - StakeWise (#SWISE) - 4,87% of M.Cap ($1,51m) - Immutable (#IMX) - 2,94% of M.Cap ($50,68m) - Hooked (#HOOK) - 27,07% of M.Cap ($15,53m) - Acala (#ACA) - 3,31% of Circ.Supply ($1,62m) - Dydx (#DYDX) - 81.63% of Cir. Supply ($505.5M) 🥳 Arbitrum (#ARB) финальный клейм NFT Arbitrum Odyssey 🥳 Radiant Capital (#RDNT) готовит анонс (или 3 декабря) 🔛 Obol Network - Запуск открытой бета-версии основной сети - UBXS (#UBXS) - Запуск рынка недвижимости Bixos 🔄 BNB Chain (#BNB) - Хард-форк 🧯 Ternoa (#CAPS) - Сжигание токенов - SaitaRealty (#SRLTY) - Сжигание токенов - Platform of meme coins (#PAYU) - Сжигание токенов 🍿#ETH#BTCПятничная экспирация 🔁 Medibloc (#MED) - Миграция токенов 🇩🇪 Manufacturing (PMI) (нояб) - 11:55мск 🇪🇺 Manufacturing (PMI) (нояб) - 12:00мск 🇬🇧 Manufacturing (PMI) (нояб) - 12:30мск 🇺🇸 Manufacturing (PMI) (нояб) - 16:45мск - ISM Manufacturing (PMI) (нояб) - 17:00мск - Выступление главы ФРС Пауэлла - 19:00мск

Резултати

Пронајдени 2 слични објави

Пребарај: #kvcache

当前筛选 #kvcache清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8027 · 11.07.2025 г., 12:05

🌟LMCache: умное кэширования для LLM-инференса. LMCache - проект, который предлагает решение по сохранению KV-кэша на CPU, диске или даже в специализированной памяти NIXL. По сути, это инструмент, который превращает одноразовые вычисления в многократно используемые блоки, экономя время и ресурсы. Представьте, что в чат-боте пользователи часто ссылаются на один и тот же системный промпт или историю диалога. Обычно модель заново обрабатывает эти данные, но LMCache просто загружает готовый кэш. Выгрузка KV-кэшей освобождает GPU для новых задач, уменьшая TTFT (время до первого токена) вплоть до 10 раз. 🟡LMCache гибкий. Кэши можно не только выгружать, но и делиться между разными инстансами LLM. Проще говоря, если два пользователя одновременно обращаются к разным копиям модели с одинаковым запросом, система не будет дублировать работу: результаты одного prefill’а станут доступны всем. Это работает даже для неполных префиксов, например, при частичном совпадении входных данных. 🟡LMCache умеет в раздельную предобработку. Prefill и decode, которые обычно выполняются на одном GPU, теперь могут быть разнесены: первый этап обрабатывается на мощных узлах, а второй на оптимизированных для генерации. Для распределенных систем такая техника повысит пропускную способность. Тесты разработчиков проекта показывают, что в реальных задачах задержка снижается в 3–10 раз, а GPU-циклы экономятся на повторных вычислениях. Проект тесно интегрируется с vLLM, в репозитории есть большой набор с примерами, документация и советы по установке и настройке. ⚠️Калькулятор KV-кеша с выбором модели, ее типа данных и количества токенов, который поможет прикинуть, сколько VRAM можно сэкономить. 📌Лицензирование: Apache 2.0 License. 🖥Github @ai_machinelearning_big_data #AI#ML#LLM#LMCache#KVCache#Github

Machinelearning

@ai_machinelearning_big_data · Post #8010 · 10.07.2025 г., 11:37

⚡️ Китайские исследователи из Shanghai Jiao Tong и Zhejiang University представили MemOS — первую в мире "операционную систему памяти" для ИИ. Обычные LLM быстро забывают информацию, а дообучать их — долго и дорого. В новой работе предлагают радикально другой подход: MemOS превращает память в часть операционной системы. 🟢Память как файлы: Модель может *записывать, перемещать и удалять* знания, как будто работает с файлами, и делать это прямо во время работы, а не только на этапе обучения. 🟢MemCube — контейнер знаний: Каждое знание упаковывается в кубик с метками времени и авторства. Планировщик сам решает, где хранить этот "куб" — в тексте, GPU‑кэше или в виде маленького патча весов. 🟢Умная экономия: MemOS работает с 1500 токенами памяти, но достигает такой же точности, как если бы модель загружала весь контекст. При этом скорость — как у облегчённых моделей. 🟢Мгновенная подгрузка: На тестах с Qwen2.5‑72B переключение нужных "кубов" в кэш снижает задержку первого токена на 91.4%, *без изменения ответа*. 🟢Результаты: MemOS набрал 73.31 балла по LLM‑Judge на LOCOMO-бенчмарке — почти на 9 баллов больше ближайшего конкурента. Особенно хорошо работает на сложных задачах с несколькими шагами и временными зависимостями. 💡 Итог: память как ОС — это не просто удобно, это ускоряет модель, повышает точность и даёт контроль над знаниями. Установка: pip install MemoryOS 🟠GitHub 🟠Проект @ai_machinelearning_big_data #MemoryOS#agentmemory#rag#kvcache