TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #764 · 20.02

Этой ночью выходит Atomic Heart — игра от русских разработчиков студии Mundfish с претензией на высокобюджетный ААА-проект. Первые превью появились, кажется, лет 6 назад, и тогда многих привлёк оригинальный визуальный стиль: Atomic Heart это шутер в эстетике Советского Союза из недалёкого будущего. С одной стороны, есть роботы, ИИ, и люди со сверхспособностями. С другой стороны привычные геометрически минималистичные формы из крашеного железа и глянцевого пластика, которые легко увидеть на каком-нибудь старом складе, заполненном советским оборудованием. Развитие проекта переживало несколько кризисов. Вообще, любой проект таких масштабов обречён не успевать в сроки: это не умеют делать даже супер опытные крупнейшие западные студии с миллиардными бюджетами. Неудивительно, что Atomic Heart от новичков из России не только побывала в производственном аду с переработками и скандальными увольнениями, но в какой-то период про неё всерьёз ходили слухи, будто бы никакой игры нет и не было никогда, а все материалы это обман. Стоит ли говорить, что год релиза тоже оказался наиболее неудачным. Успей студия доделать всё в 2021, может, Россия побывала бы в топ-листах ААА-игр. Сейчас же разработчикам пришлось воспользоваться фактом своей регистрации на Кипре и разделить потоки продажи в России и на Западе, сталкиваясь с хейтом с той и другой стороны. Со стороны Запада начались попытки канселинга за то, что у Mundfish русские корни, и за то, что они не высказали открытой антироссийской позиции. Я уже неоднократно писал, что, например, компания JetBrains, имея русских основателей и больше половины русского штата, заняла публично антироссийскую позицию сразу же, максимально сохраняя свои продажи на Западе. Хотя некоторое количество хейта от украинцев в сторону JetBrains всё равно есть: дескать, полностью ушли из России слишком поздно, закрывали процессы и перевозили людей, а нужно было сразу. Mundfish не делали политических заявлений вообще. Написали общие вещи, что они против войны, но не стали писать, что они против России и отказываются продавать здесь свою игру. Из-за этого, например, не так сложно встретить англоязычные статьи с призывом саботировать проект полностью. Впрочем, в России авторы тоже огребли: дело в том, что цифровым издателем выступила VK со своей малоизвестной площадкой для игр VKPlay. Продажи через любимый геймерами Steam были заблокированы не только в России, но и в Казахстане, Армении и других смежных регионах. И, если россиянин, нелегально использующий Steam из-под казахского аккаунта, вряд ли имеет право предъявлять претензии, то вот вполне настоящие жители того же Казахстана по непонятной причине столкнулись с блокировкой, хотя на их страну никто никаких санкций не накладывал. Плюс — чего уж говорить — публичная репутация у VK, мягко говоря, не слишком высокая: десятки комментариев о том, что игру не станут покупать просто чтобы не связываться с каким-либо продуктом от VK. Не знаю, будет ли Atomic Heart хорошей игрой. На общемировом уровне, мне кажется, будет средненькой. По видеороликам кажется, что импакта от выстрелов нет, а в шутере это почти что самое главное. Способности персонажа тоже выглядят довольно бесполезными. Тем не менее, я купил максимальную версию, чтобы поддержать авторов, которые прошли через и без того сложный процесс разработки, а в конце ещё и столкнулись с неадекватной агрессией, и при этом проявили себя сдержано и достойно. Но на игру, конечно же, тоже посмотрим. #games

Hashtags

Резултати

Намерени 2 подобни публикации

Търсене: #kvcache

当前筛选 #kvcache清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8027 · 11.07.2025 г., 12:05

🌟LMCache: умное кэширования для LLM-инференса. LMCache - проект, который предлагает решение по сохранению KV-кэша на CPU, диске или даже в специализированной памяти NIXL. По сути, это инструмент, который превращает одноразовые вычисления в многократно используемые блоки, экономя время и ресурсы. Представьте, что в чат-боте пользователи часто ссылаются на один и тот же системный промпт или историю диалога. Обычно модель заново обрабатывает эти данные, но LMCache просто загружает готовый кэш. Выгрузка KV-кэшей освобождает GPU для новых задач, уменьшая TTFT (время до первого токена) вплоть до 10 раз. 🟡LMCache гибкий. Кэши можно не только выгружать, но и делиться между разными инстансами LLM. Проще говоря, если два пользователя одновременно обращаются к разным копиям модели с одинаковым запросом, система не будет дублировать работу: результаты одного prefill’а станут доступны всем. Это работает даже для неполных префиксов, например, при частичном совпадении входных данных. 🟡LMCache умеет в раздельную предобработку. Prefill и decode, которые обычно выполняются на одном GPU, теперь могут быть разнесены: первый этап обрабатывается на мощных узлах, а второй на оптимизированных для генерации. Для распределенных систем такая техника повысит пропускную способность. Тесты разработчиков проекта показывают, что в реальных задачах задержка снижается в 3–10 раз, а GPU-циклы экономятся на повторных вычислениях. Проект тесно интегрируется с vLLM, в репозитории есть большой набор с примерами, документация и советы по установке и настройке. ⚠️Калькулятор KV-кеша с выбором модели, ее типа данных и количества токенов, который поможет прикинуть, сколько VRAM можно сэкономить. 📌Лицензирование: Apache 2.0 License. 🖥Github @ai_machinelearning_big_data #AI#ML#LLM#LMCache#KVCache#Github

Machinelearning

@ai_machinelearning_big_data · Post #8010 · 10.07.2025 г., 11:37

⚡️ Китайские исследователи из Shanghai Jiao Tong и Zhejiang University представили MemOS — первую в мире "операционную систему памяти" для ИИ. Обычные LLM быстро забывают информацию, а дообучать их — долго и дорого. В новой работе предлагают радикально другой подход: MemOS превращает память в часть операционной системы. 🟢Память как файлы: Модель может *записывать, перемещать и удалять* знания, как будто работает с файлами, и делать это прямо во время работы, а не только на этапе обучения. 🟢MemCube — контейнер знаний: Каждое знание упаковывается в кубик с метками времени и авторства. Планировщик сам решает, где хранить этот "куб" — в тексте, GPU‑кэше или в виде маленького патча весов. 🟢Умная экономия: MemOS работает с 1500 токенами памяти, но достигает такой же точности, как если бы модель загружала весь контекст. При этом скорость — как у облегчённых моделей. 🟢Мгновенная подгрузка: На тестах с Qwen2.5‑72B переключение нужных "кубов" в кэш снижает задержку первого токена на 91.4%, *без изменения ответа*. 🟢Результаты: MemOS набрал 73.31 балла по LLM‑Judge на LOCOMO-бенчмарке — почти на 9 баллов больше ближайшего конкурента. Особенно хорошо работает на сложных задачах с несколькими шагами и временными зависимостями. 💡 Итог: память как ОС — это не просто удобно, это ускоряет модель, повышает точность и даёт контроль над знаниями. Установка: pip install MemoryOS 🟠GitHub 🟠Проект @ai_machinelearning_big_data #MemoryOS#agentmemory#rag#kvcache