TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #1174 · 7.12

Большущий текст о настолках и настольном кемпе. Если вы не интересуетесь этой темой, пропускайте пост. #games@clockstackwheels У настольщиков есть общая боль — низкое проникновение хобби в среду нормисов. Не знаю, с чем конкретно это связано, но пока что настолки прям сравнительно маргинальная тема в России. Может, людям лень или сложно, может быть им не собраться вживую, а может быть просто не хватает маркетинга, чтобы народ знал о существовании чего-то, кроме Монополии и Покера. Хотя по моим наблюдениям родители нередко начинают играть с детьми, признавая позитивный эмоционально-образовательный эффект настольных игр, но при трансфере этого хобби во взрослую жизнь что-то ломается по пути. В общем те, у кого не сломалось, собираются в игровые клубы, на игротеки и на кемпы. Кемп это такой выезд на несколько дней куда-нибудь в отель, где ты целыми днями играешь в настолки с такими же упоротыми ценителями прекрасного. Я был на таком впервые и вот только вернулся. Конкретно этот шёл трое суток в пансионате в Ленобласти, организован был компанией Лавка Игр. Ещё до начала я всех задолбал в чате попытками придумать какую-то систему записи, потому что мне было совершенно непонятно, как собственно на месте идёт процесс синхронизации. В идеале у тебя должна быть возможность в любой момент времени начать партию в интересующую тебя игру и иметь под неё нужное число игроков. На деле происходит так: • В чате кто-то пишет, что собирается во что-то играть. Ты думаешь: «О, я чё-то про неё слышал, надо попробовать» и идёшь; • Ты находишь интересную тебе игру на стеллажах, предоставленных организаторами и участниками, начинаешь её раскладывать на свободном столе, игроки материализуются сами; • Ты идёшь мимо столов с раскладываемой игрой, тебе она кажется привлекательной — всё, теперь ты тот самый материализовавшийся игрок. Короч, система работает. Сам пансионат был, ну как сказать, бюджетным, со всеми вытекающими (хотя я не знаю, бывают ли не бюджетные пансионаты, которым не требуется срочный косметический ремонт везде). Еда нормальная, столовская, с выбором и адекватными порциями, но без десертов (хотя их отсутствие компенсировалось бесконечными сладостями от организаторов). Я вообще не покидал здание все дни. В день лично мне в ненапряжном темпе удавалось сыграть в 3-4 игры с учётом долгого сна утром, но при этом окончания партий в 4 часа ночи. Как я понял, среднестатистический посетитель кемпов играет больше, а спит меньше. Всего четыре игровых зала, и из них почему-то один очень шумный, такой, что едва слышно сидящего рядом, а остальные три неожиданно тихие. Окей, один был попрохладнее, туда не так стремились, но всё равно распределение шума меня удивило. По уюту было очень кайфово вечером-ночью сидеть в углу где-то за составленными группой столами и раскладывать настолочку. Дальше конкретно про игры, в которые я сыграл, и моё мнение о них. Гармония. Расслабляющий абстракт на составление сетов в тематике природы. У нас были очень красивые миниатюрки с животными, сделанные на заказ, и конкретно для меня они дали половину удовольствия от игры (в оригинальной коробке там просто цветные кубики). Вот без этих миниатюр игре не хватило тематичности, чтоб я её себе в коллекцию купил. Хотя подумывал об этом. Зоократия. У меня дома есть коробка, я не успел распаковать. Любопытная игра на позитивную дипломатию: важные игровые действия каждый может делать только с помощью других игроков, при этом побеждает всё равно кто-то один. Удивительно, но она работает, не вызывает замыканий, когда никто никому не хотел бы помогать. Оставляю коробку, с удовольствием предложу семье и друзьям.

Hashtags

Резултати

Намерени 2 подобни публикации

Търсене: #kvcache

当前筛选 #kvcache清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8027 · 11.07.2025 г., 12:05

🌟LMCache: умное кэширования для LLM-инференса. LMCache - проект, который предлагает решение по сохранению KV-кэша на CPU, диске или даже в специализированной памяти NIXL. По сути, это инструмент, который превращает одноразовые вычисления в многократно используемые блоки, экономя время и ресурсы. Представьте, что в чат-боте пользователи часто ссылаются на один и тот же системный промпт или историю диалога. Обычно модель заново обрабатывает эти данные, но LMCache просто загружает готовый кэш. Выгрузка KV-кэшей освобождает GPU для новых задач, уменьшая TTFT (время до первого токена) вплоть до 10 раз. 🟡LMCache гибкий. Кэши можно не только выгружать, но и делиться между разными инстансами LLM. Проще говоря, если два пользователя одновременно обращаются к разным копиям модели с одинаковым запросом, система не будет дублировать работу: результаты одного prefill’а станут доступны всем. Это работает даже для неполных префиксов, например, при частичном совпадении входных данных. 🟡LMCache умеет в раздельную предобработку. Prefill и decode, которые обычно выполняются на одном GPU, теперь могут быть разнесены: первый этап обрабатывается на мощных узлах, а второй на оптимизированных для генерации. Для распределенных систем такая техника повысит пропускную способность. Тесты разработчиков проекта показывают, что в реальных задачах задержка снижается в 3–10 раз, а GPU-циклы экономятся на повторных вычислениях. Проект тесно интегрируется с vLLM, в репозитории есть большой набор с примерами, документация и советы по установке и настройке. ⚠️Калькулятор KV-кеша с выбором модели, ее типа данных и количества токенов, который поможет прикинуть, сколько VRAM можно сэкономить. 📌Лицензирование: Apache 2.0 License. 🖥Github @ai_machinelearning_big_data #AI#ML#LLM#LMCache#KVCache#Github

Machinelearning

@ai_machinelearning_big_data · Post #8010 · 10.07.2025 г., 11:37

⚡️ Китайские исследователи из Shanghai Jiao Tong и Zhejiang University представили MemOS — первую в мире "операционную систему памяти" для ИИ. Обычные LLM быстро забывают информацию, а дообучать их — долго и дорого. В новой работе предлагают радикально другой подход: MemOS превращает память в часть операционной системы. 🟢Память как файлы: Модель может *записывать, перемещать и удалять* знания, как будто работает с файлами, и делать это прямо во время работы, а не только на этапе обучения. 🟢MemCube — контейнер знаний: Каждое знание упаковывается в кубик с метками времени и авторства. Планировщик сам решает, где хранить этот "куб" — в тексте, GPU‑кэше или в виде маленького патча весов. 🟢Умная экономия: MemOS работает с 1500 токенами памяти, но достигает такой же точности, как если бы модель загружала весь контекст. При этом скорость — как у облегчённых моделей. 🟢Мгновенная подгрузка: На тестах с Qwen2.5‑72B переключение нужных "кубов" в кэш снижает задержку первого токена на 91.4%, *без изменения ответа*. 🟢Результаты: MemOS набрал 73.31 балла по LLM‑Judge на LOCOMO-бенчмарке — почти на 9 баллов больше ближайшего конкурента. Особенно хорошо работает на сложных задачах с несколькими шагами и временными зависимостями. 💡 Итог: память как ОС — это не просто удобно, это ускоряет модель, повышает точность и даёт контроль над знаниями. Установка: pip install MemoryOS 🟠GitHub 🟠Проект @ai_machinelearning_big_data #MemoryOS#agentmemory#rag#kvcache