TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #583 · 3.10

Пару недель назад в один день презентовали сразу две новые модели экшен-камер от разных производителей: DJI Action 3 и GoPro Hero 11. Технически даже три, потому что у GoPro есть версия Mini, о ней чуть ниже. Вообще говоря, DJI умеют исправлять косяки конкурентов в UI/UX, и в целом владеют этим направлением очень хорошо, на уровне Apple времён первых айфонов. Например, GoPro с первых версий сделали крепление винтом через два ушка, и оно уже приобрело огромную популярность, поэтому все остальные делают такое же. Да и сами GoPro стали заложниками собственного стандарта. Но это крепление плохое и неудобное: с одной стороны оно требует очень много времени на ввинчивание барашка, а с другой стороны подвержено перекосам при резких рывках, если ты затянул не до самой дури. При этом есть полностью отсоединяемый элемент — собственно винт-барашек, который может легко теряться. У DJI проблема решена элегантно и очень мудро: магнит в сочетании с защёлками. Секунда на присоединение, две секунды на отсоединение. Можно прикреплять в сложных условиях, в перчатках, одной рукой итд. Прямо тема для главы учебника по промышленному дизайну или по ТРИЗ. Но во всех аксессуарах давно главенствует неудобное крепление GoPro, поэтому ребятам из DJI пришлось сделать переходник. При этом технически камера от DJI на уровне предыдущего поколения GoPro. И по картинке и по другим параметрам. И, к сожалению, они не удержались от того, чтобы своровать некрасивый асимметричный дизайн. До чего аккуратной и визуально приятной была DJI Action 2 на фоне камер от GoPro, а тут прямо передрали уродство. Это похоже на случай, когда производители Android-смартфонов одно время стали повторять уродскую чёлку от Apple просто ради моды, но, благо, быстро опомнились. Но зато DJI Action 3 сильно дешевле чем даже прошлое поколение от GoPro, вообще, с ценой не стали жадничать. Думаю, GoPro долгое время ощущали себя монополистами, поэтому завышали. Отдельный интерес вызывает версия GoPro 11 Mini. Как большая, но без экранов. Экран на экшен-камере — вещь второстепенная и далеко не всегда нужная. Зато часто имеет значение вес и габариты. Для коптеров, кажется, отличный вариант именно что-то типа Mini. Да, у них есть версия GoPro 10 Bones (без аккумулятора и экрана, облегчённая), но стоит она почему-то неадекватно дорого, а в России дороже, чем точно такая же с экраном и аккумулятором. Короче, на мой взгляд, у DJI виден потенциал, но прямо сейчас пока не дожали. Ещё одно-два поколения, и они обойдут нынешних лидеров. Я надеюсь. #gadgets

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #lmcache

当前筛选 #lmcache清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8027 · 11.07.2025 г., 12:05

🌟LMCache: умное кэширования для LLM-инференса. LMCache - проект, который предлагает решение по сохранению KV-кэша на CPU, диске или даже в специализированной памяти NIXL. По сути, это инструмент, который превращает одноразовые вычисления в многократно используемые блоки, экономя время и ресурсы. Представьте, что в чат-боте пользователи часто ссылаются на один и тот же системный промпт или историю диалога. Обычно модель заново обрабатывает эти данные, но LMCache просто загружает готовый кэш. Выгрузка KV-кэшей освобождает GPU для новых задач, уменьшая TTFT (время до первого токена) вплоть до 10 раз. 🟡LMCache гибкий. Кэши можно не только выгружать, но и делиться между разными инстансами LLM. Проще говоря, если два пользователя одновременно обращаются к разным копиям модели с одинаковым запросом, система не будет дублировать работу: результаты одного prefill’а станут доступны всем. Это работает даже для неполных префиксов, например, при частичном совпадении входных данных. 🟡LMCache умеет в раздельную предобработку. Prefill и decode, которые обычно выполняются на одном GPU, теперь могут быть разнесены: первый этап обрабатывается на мощных узлах, а второй на оптимизированных для генерации. Для распределенных систем такая техника повысит пропускную способность. Тесты разработчиков проекта показывают, что в реальных задачах задержка снижается в 3–10 раз, а GPU-циклы экономятся на повторных вычислениях. Проект тесно интегрируется с vLLM, в репозитории есть большой набор с примерами, документация и советы по установке и настройке. ⚠️Калькулятор KV-кеша с выбором модели, ее типа данных и количества токенов, который поможет прикинуть, сколько VRAM можно сэкономить. 📌Лицензирование: Apache 2.0 License. 🖥Github @ai_machinelearning_big_data #AI#ML#LLM#LMCache#KVCache#Github