TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #91 · 26.10

Сейчас 10 лет Яндекс.Такси. Кажется, именно Яндекс первым привел Uber-модель в Россию. Пишут, что мой первый заказ был в мае 2013-го. Целая вечность назад, но я помню — был где-то в районе Лесной, нужно было в точку, удалённую от метро. Как раз крутили рекламу нового сервиса от Яндекса, я скачал, запустил поиск. Ждал минут 15, потом ещё искал, где водитель припарковался. Быстрее было бы дойти. Сейчас уже стало ясно, что сервисы такси — одна из важнейших технологических вех нового времени. Сложно представить себе что-то ещё, что настолько фундаментально поменяло наши жизни. Ни роботы-пылесосы, ни сервисы доставки, ни даже каршеринг — ничто из этого настолько сильно не поделило мир на "до" и "после". Процесс вызова такси по телефону действительно был неприлично труден: следовало знать адрес, где находишься, знать номер таксопарка, а затем ждать неопределенное время, после чего платить весьма немалые деньги водителю налом. К такси прибегали в крайних случаях, когда обойтись другим способом было невозможно. Сокращение такого значительного числа издержек в столь необходимой для людей услуге — перемещение — сопоставимо с изобретением интернета или электричества. Да, и без электричества мы могли обогревать и освещать свои дома, готовить пищу, вращать мельницы. Но на этом примере становится видно, что время и усилия на получение результата очень важны. Такси стало полноценным вариантом повседневного транспорта, а не редкой вынужденной мерой для богатых. Я заказываю такси десяток раз в месяц, и уже всерьез не способен вспомнить, как в принципе возможно было жить без этих сервисов. Что я делал в таких же ситуациях 10 лет назад? Ждал автобус полчаса, шел пешком час? Или даже просто отменял своё намерение добраться в какую-то точку? Лучше, наверное, и не вспоминать. #life

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #litert

当前筛选 #litert清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8689 · 04.10.2025 г., 15:05

✔️GenAI прямо на устройстве: Chrome, Chromebook Plus и Pixel Watch с LiteRT-LM Google выпустили LiteRT-LM - фреймворк для запуска LLM прямо на устройстве (offline), с минимальной задержкой и без API-вызовов. Если вы пилите приложения, это полезная штука, потому что: - Работает на устройстве: нет задержек от удалённых серверов - Нет расходов на API - Дает доступ к Локальному GenAI 🔍 Основное - LiteRT-LM уже используется внутри Gemini Nano / Gemma в Chrome, Chromebook Plus и Pixel Watch. - Открытый C++ интерфейс (preview) для интеграции в кастомные решения. - Архитектура: Engine + Session • Engine хранит базовую модель, ресурсы - общий для всех функций • Session - контекст для отдельных задач, с возможностью клонирования, копирования “по записи” (Copy-on-Write) и лёгких переключений - Поддержка аппаратного ускорения (CPU / GPU / NPU) и кроссплатформенность (Android, Linux, macOS, Windows и др.) - Для Pixel Watch используется минимальный “pipeline” - только необходимые компоненты - чтобы уложиться в ограничения памяти и размера бинарей Google опенсорснули целый стек для запуска GenAI на устройствах: - LiteRT быстрый «движок», который запускает отдельные AI-модели на устройстве. - LiteRT-LM - интерфейс C++ для работы с LLM. Он объединяет сразу несколько инстурментов : кэширование промптов, хранение контекста, клонирование сессий и т.д. - LLM Inference API - готовые интерфейсы для разработчиков (Kotlin, Swift, JS). Работают поверх LiteRT-LM, чтобы можно было легко встраивать GenAI в приложения. 🟠Подробнее: https://developers.googleblog.com/en/on-device-genai-in-chrome-chromebook-plus-and-pixel-watch-with-litert-lm/ @ai_machinelearning_big_data #AI#Google#LiteRT#LiteRTLM#GenAI#EdgeAI#OnDeviceAI#LLM