TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #43 · 8.06

Умение признавать свои ошибки — современная вежливость больших корпораций. Бывают непопулярные у народа решения, которые продиктованы бизнесом (например, Фейсбук забит визуальным мусором и не собирается это менять). Бывают решения, которые изначально приняты сознательно, потому что думали, что так будет лучше, но когда стало понятно, что решение плохое, компания не захотела показаться глупой и выдала проблемы за особую идеологию (отсутствие возможности редактировать твиты в Twitter; отсутствие возможности адекватно прикреплять картинку к посту в Telegram). Бывают решения от лени, когда какой-то момент вообще не продумывали (неправильный визуальный акцент на номера телефонов вместо имён в групповых чатах WhatsApp; отсутствие возможности отправить альбом отложенным сообщением в Telegram). Бывают решения от незнания, когда люди некомпетентны или не очень понимают, что делают (бардак на вкладке «сервисы» ВКонтакте). А бывают решения, про которые стало понятно, что они плохие, и компания их откатывает. Это большая редкость. Подумать только: компания признаёт ошибку и делает обратно как удобнее. Вы, наверное, помните ситуацию с Кинопоиском: всем включили новый интерфейс, люди стали жаловаться, и компания вернула старый интерфейс, а в новый начала перерабатывать его постепенно. Но тут глобальное изменение вызвало глобальное недовольство, был реальный риск снижения пользовательской базы. А вот вчера на WWDC показали, что Apple возвращает в iOS 15 карусель выбора времени для будильника. Изменение интерфейса этой карусели — одно из худших дизайнерских решений Apple за всё время. Выбирать время стало значительно неудобнее. В то же время это мелочь, из-за которой никто не перестал бы пользоваться айфоном. Особенно когда речь идёт об оголтелых Apple-фанатах: им можно продать даже куда более абсурдные и корявые вещи, всё стерпят. Однако же компания решила вернуть предыдущий вид карусели, очевидно более дружественный и понятный. Кажется, такие случаи в наше время — большая редкость. #gadgets

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #speculativedecoding

当前筛选 #speculativedecoding清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8524 · 12.09.2025 г., 11:00

⚡Speculative Cascades — как ускорить работу LLM Google Research придумали новый способ сделать большие языковые модели быстрее и дешевле. Что это такое: 🔹Каскады Сначала отвечает маленькая модель. Если задача слишком сложная - подключается большая. Так экономятся ресурсы, но качество может прыгать. 🔹Спекулятивная декодировка Маленькая модель угадывает сразу несколько слов вперёд. Большая быстро проверяет данные и подтверждает. Скорость выше, но большая модель всё равно тратит много ресурсов. 🟢Speculative Cascades Это комбинация: маленькая модель иногда отвечает полностью сама, а иногда используется как ускоритель для большой. В итоге получаем меньше затрат, больше скорости и то же качество. 🔥Что показали тесты (тестили на Gemma, T5): - быстрее, чем обычная спекулятивная декодировка - дешевле и качественнее, чем каскады - удобнее настраивать баланс «скорость ↔ качество» При том же уровне качества, что и у спекулятивной декодировки, новый метод работает быстрее (генерирует больше токенов за один вызов большой модели). А в задачах математических рассуждений получен явный апгрейд по скорости при сохранении или даже улучшении качества. LLM всё чаще используются в поиске, чатах, ассистентах. Чтобы они реально были полезными, их нужно ускорять и удешевлять. *Speculative cascades* помогают это сделать без потери качества. 🔗Подробнее: https://research.google/blog/speculative-cascades-a-hybrid-approach-for-smarter-faster-llm-inference/ @ai_machinelearning_big_data #AI#LLM#Inference#SpeculativeDecoding#Cascades#GoogleResearch