TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #353 · 22.05

Третий сезон ❤️☠️🤖, пожалуй, всё ещё уступает первому, но вышел существенно лучше второго. Вообще, я посмотрел в сети, и, оказывается, к первому сезону привлекли 11 разных стран для разработки, а ко второму и третьему только по 4 страны, а большинство эпизодов делали США. То есть проект начинался, как международный, но потом изначальные авторы почти целиком забрали его себе. Ударило ли по качеству именно это — сложно сказать — но признак не самый хороший. Во втором сезоне мне запомнилась буквально пара эпизодов. Его проблема была в том, что он короткий, недосказанный, и не с такими интересными идеями. Третий сезон двинулся в сторону улучшения, но всё равно на его фоне некоторые серии из первого сезона, которые казались чисто проходными, внезапно обрели глубину и интересность. Далее пройдусь по эпизодам без спойлеров. «Three Robots: Exit Strategies» (три робота) Продолжение короткой зарисовки из первой части, где человечество погибло в результате войны с роботами, и роботы ходят по руинам и рассуждают с шутками о всяких жизненных вещах. Есть очень классные язвительные подколки в сторону людей и их недостатков, я бы с удовольствием посмотрел ещё несколько эпизодов в этой вселенной. «Bad Travelling» (про гигантского краба) Очень крутая серия, в моём личном рейтинге лучшая в сезоне. Это то, за что я в целом ценю весь проект: тут есть и экшен, и нагнетание атмосферы, и острые социальные высказывания, и крутой неоднозначный герой, чью мотивацию ты понимаешь полностью только к концу. «The Very Pulse of the Machine» (про космонавток на Ио) Ну такое себе. Подобную тему можно было, на мой взгляд, раскрыть гораздо круче. А здесь что-то полу-наркоманское. Посмотрел без особого удовольствия, но и перемотать не хотелось. «Night of the Mini Dead» (зомби в миниатюре) По сюжету совершенно ничего интересного, вся серия держится на визуальном стиле: миниатюрная кукольная анимация (представьте себе Гранд Макет, в котором сняли покадровый фильм, передвигая фигурки). Интересно, потому что необычно, но я бы такое ожидал скорее в формате ролика на ютубе, а не в высокобюджетном проекте от крупной студии. «Kill Team Kill» (про медведя) Классический экшен-эпизод, где просто драка без какой-либо сюжетной мысли. Пару таких серий мы видели в первом сезоне: про ограбление колонны («Blindspot») и про мехов против пришельцев («Suits»). Но в первом сезоне был более интересный сеттинг, а здесь, на мой взгляд, нет. С мехами куда круче и эффектнее смотрится. «Swarm» (рой в космосе) Пожалуй, вторая по интересности серия в моём личном рейтинге. Очень классный сюжет, очень классная задумка, хочется посмотреть что-то более длинное с этой тематикой. Концовку объяснили не слишком хорошо, и приходится строить собственные теории, но в остальном шикарно. «Mason's Rats» (война с крысами) Тоже офигенная идея, классный экшен, жёсткий чёрный юмор, и тоже как будто не хватило времени, я бы сделал минут на 10-15 дольше, чуть помедленнее подавая события. Но однозначно один из лучших эпизодов сезона. «In Vaulted Halls Entombed» (солдаты в пещере) Классический эпизод-ужастик, мы это видели в первой части в серии «Sucker of Souls» (про дракулу). Там, кстати, тоже пещера, и вообще довольно похоже всё. В общем, вся серия как визуализация какой-нибудь одной статьи про SCP — сюжета считайте нет, но криповенько и со вкусом. «Jibaro» (танцующая девушка в озере) Это, кажется, то ли экранизация японского театра Кабуки, то ли что-то похожее. Вся серия вычурно театральная, причем даже не в нашем привычном европейском стиле. Она немая, держится на костюмах и движениях, сюжет ясен только в общих чертах. Мне вот совершенно не зашло, на очень большого любителя. Но, я думаю, есть люди, которые от неё в восторге. Тем не менее, насколько место таким экспериментам в как бы фантастическом сериале — для меня вопрос спорный. Ждём ещё пару лет.#fiction

Hashtags

Резултати

Намерени 2 подобни публикации

Търсене: #kvcache

当前筛选 #kvcache清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8027 · 11.07.2025 г., 12:05

🌟LMCache: умное кэширования для LLM-инференса. LMCache - проект, который предлагает решение по сохранению KV-кэша на CPU, диске или даже в специализированной памяти NIXL. По сути, это инструмент, который превращает одноразовые вычисления в многократно используемые блоки, экономя время и ресурсы. Представьте, что в чат-боте пользователи часто ссылаются на один и тот же системный промпт или историю диалога. Обычно модель заново обрабатывает эти данные, но LMCache просто загружает готовый кэш. Выгрузка KV-кэшей освобождает GPU для новых задач, уменьшая TTFT (время до первого токена) вплоть до 10 раз. 🟡LMCache гибкий. Кэши можно не только выгружать, но и делиться между разными инстансами LLM. Проще говоря, если два пользователя одновременно обращаются к разным копиям модели с одинаковым запросом, система не будет дублировать работу: результаты одного prefill’а станут доступны всем. Это работает даже для неполных префиксов, например, при частичном совпадении входных данных. 🟡LMCache умеет в раздельную предобработку. Prefill и decode, которые обычно выполняются на одном GPU, теперь могут быть разнесены: первый этап обрабатывается на мощных узлах, а второй на оптимизированных для генерации. Для распределенных систем такая техника повысит пропускную способность. Тесты разработчиков проекта показывают, что в реальных задачах задержка снижается в 3–10 раз, а GPU-циклы экономятся на повторных вычислениях. Проект тесно интегрируется с vLLM, в репозитории есть большой набор с примерами, документация и советы по установке и настройке. ⚠️Калькулятор KV-кеша с выбором модели, ее типа данных и количества токенов, который поможет прикинуть, сколько VRAM можно сэкономить. 📌Лицензирование: Apache 2.0 License. 🖥Github @ai_machinelearning_big_data #AI#ML#LLM#LMCache#KVCache#Github

Machinelearning

@ai_machinelearning_big_data · Post #8010 · 10.07.2025 г., 11:37

⚡️ Китайские исследователи из Shanghai Jiao Tong и Zhejiang University представили MemOS — первую в мире "операционную систему памяти" для ИИ. Обычные LLM быстро забывают информацию, а дообучать их — долго и дорого. В новой работе предлагают радикально другой подход: MemOS превращает память в часть операционной системы. 🟢Память как файлы: Модель может *записывать, перемещать и удалять* знания, как будто работает с файлами, и делать это прямо во время работы, а не только на этапе обучения. 🟢MemCube — контейнер знаний: Каждое знание упаковывается в кубик с метками времени и авторства. Планировщик сам решает, где хранить этот "куб" — в тексте, GPU‑кэше или в виде маленького патча весов. 🟢Умная экономия: MemOS работает с 1500 токенами памяти, но достигает такой же точности, как если бы модель загружала весь контекст. При этом скорость — как у облегчённых моделей. 🟢Мгновенная подгрузка: На тестах с Qwen2.5‑72B переключение нужных "кубов" в кэш снижает задержку первого токена на 91.4%, *без изменения ответа*. 🟢Результаты: MemOS набрал 73.31 балла по LLM‑Judge на LOCOMO-бенчмарке — почти на 9 баллов больше ближайшего конкурента. Особенно хорошо работает на сложных задачах с несколькими шагами и временными зависимостями. 💡 Итог: память как ОС — это не просто удобно, это ускоряет модель, повышает точность и даёт контроль над знаниями. Установка: pip install MemoryOS 🟠GitHub 🟠Проект @ai_machinelearning_big_data #MemoryOS#agentmemory#rag#kvcache