TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #40 · 6.06

Некоторые области удивительным образом игнорируют прогресс в других областях. Для меня самым характерным примером являются, пожалуй, бортовые компьютеры автомобилей. Вчера я ехал на такси Комфорт+, это была вполне приличная и не старая Kia Optima. Водитель параллельно со своим телефоном включил встроенный навигатор, и он ожидаемо оказался очень плох. Мало того, что даже близко не адаптирован под Россию, с убогой не детализированной картой, так ещё и жутко тормозил: FPS анимаций в районе 1-2. Потом я вспомнил, как мы с друзьями в Москве брали в каршеринге Genesis G70 — Южно-Корейский автомобиль премиум-класса с ценой от 2.5 млн рублей. И там стоял адаптированный бортовой компьютер под управлением Android. Надо ли говорить, что скорость его работы была настолько необъяснимо отстойной, что даже самый дешманский ноунейм китайфон справился бы с задачей навигации лучше? Каждый раз, когда я вижу экран бортового компьютера автомобиля, я будто смотрю через маленькое окошко в прошлое 20-летней давности. И по скорости работы и по функциональным возможностям всё поразительно плохо. Можно оправдывать это якобы безопасностью (сторонний софт нельзя ставить, чтобы он не мог повлиять на движение автомобиля), но на деле эти цепи легко разделяются: двигатель и важные узлы в одном месте, а навигатор, информация с датчиков, климат-контроль — в другом, на другом процессоре с другой областью памяти. Автомобильная промышленность в целом довольно консервативна. Поэтому большинство серийных моделей выглядят одинаково скучно, о каких-то крутых новых функциональных фишках мы слышим раз в десятилетие, а какие-то изобретенные полвека назад вещи до сих пор есть далеко не в каждой модели (например, парктроники). Но иногда до абсурда доходит: в тачке за пару лямов компьютер хуже, чем китайский планшет за десятку. #gadgets#life

Резултати

Намерени 1 подобни публикации

Търсене: #litert

当前筛选 #litert清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8689 · 04.10.2025 г., 15:05

✔️GenAI прямо на устройстве: Chrome, Chromebook Plus и Pixel Watch с LiteRT-LM Google выпустили LiteRT-LM - фреймворк для запуска LLM прямо на устройстве (offline), с минимальной задержкой и без API-вызовов. Если вы пилите приложения, это полезная штука, потому что: - Работает на устройстве: нет задержек от удалённых серверов - Нет расходов на API - Дает доступ к Локальному GenAI 🔍 Основное - LiteRT-LM уже используется внутри Gemini Nano / Gemma в Chrome, Chromebook Plus и Pixel Watch. - Открытый C++ интерфейс (preview) для интеграции в кастомные решения. - Архитектура: Engine + Session • Engine хранит базовую модель, ресурсы - общий для всех функций • Session - контекст для отдельных задач, с возможностью клонирования, копирования “по записи” (Copy-on-Write) и лёгких переключений - Поддержка аппаратного ускорения (CPU / GPU / NPU) и кроссплатформенность (Android, Linux, macOS, Windows и др.) - Для Pixel Watch используется минимальный “pipeline” - только необходимые компоненты - чтобы уложиться в ограничения памяти и размера бинарей Google опенсорснули целый стек для запуска GenAI на устройствах: - LiteRT быстрый «движок», который запускает отдельные AI-модели на устройстве. - LiteRT-LM - интерфейс C++ для работы с LLM. Он объединяет сразу несколько инстурментов : кэширование промптов, хранение контекста, клонирование сессий и т.д. - LLM Inference API - готовые интерфейсы для разработчиков (Kotlin, Swift, JS). Работают поверх LiteRT-LM, чтобы можно было легко встраивать GenAI в приложения. 🟠Подробнее: https://developers.googleblog.com/en/on-device-genai-in-chrome-chromebook-plus-and-pixel-watch-with-litert-lm/ @ai_machinelearning_big_data #AI#Google#LiteRT#LiteRTLM#GenAI#EdgeAI#OnDeviceAI#LLM