TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #309 · 20.04

Проблема нового Бэтмена в том, что там герой ничего не делает и ни для чего не нужен. Вообще, я могу купить идею «Сделаем Бэтмена реалистичным не так, как попытался Нолан, а по-своему, в драматически-беспросветном стиле». Но у этого подхода есть проблема: в попытке стать реалистичным он стал заурядным. Кино не зря показывает, как люди с недоумением косятся на него в костюме, поскольку это плохо согласуется с реализмом. Посудите сами: если у нас вселенная, где костюм с ушами воспринимается, как что-то серьёзное и угрожающее (а не что-то детское и нелепое), то мы, наверное, ожидаем и относительно фантастических технологий, и некоторой запредельной типично комиксовой крутости героя. А здесь: боевые сцены совсем не впечатляют, но не из-за того, что сделаны плохо, просто они по-реалистичному надрывные и сумбурные. Это уместно в каком-нибудь Крепком Орешке, но там и герой не в костюме. Ладно, по канону Бэтмен не только ниндзя и миллиардер с технологиями, но ещё и невероятно умный детектив. Может, хоть здесь фильм не проседает? Увы. Герой, конечно, разгадывает загадки Риддлера, но, если внимательно посмотреть, то смысла в этом нет никакого. Полное отсутствие разгадок привело бы персонажей ровно к такому же результату. Одного злодея вяжут из-за аудиозаписи, к которой сам Бэтмен не имеет отношения. Другого палят простые копы почти случайно. Последние события вообще развиваются независимо от решения. В итоге мы получили фильм про Бэтмена, который вроде бы и показывает нам реалистичного персонажа, а с другой стороны делает его скучным и бесполезным на протяжении всего хронометража. #fiction

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #speculativedecoding

当前筛选 #speculativedecoding清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8524 · 12.09.2025 г., 11:00

⚡Speculative Cascades — как ускорить работу LLM Google Research придумали новый способ сделать большие языковые модели быстрее и дешевле. Что это такое: 🔹Каскады Сначала отвечает маленькая модель. Если задача слишком сложная - подключается большая. Так экономятся ресурсы, но качество может прыгать. 🔹Спекулятивная декодировка Маленькая модель угадывает сразу несколько слов вперёд. Большая быстро проверяет данные и подтверждает. Скорость выше, но большая модель всё равно тратит много ресурсов. 🟢Speculative Cascades Это комбинация: маленькая модель иногда отвечает полностью сама, а иногда используется как ускоритель для большой. В итоге получаем меньше затрат, больше скорости и то же качество. 🔥Что показали тесты (тестили на Gemma, T5): - быстрее, чем обычная спекулятивная декодировка - дешевле и качественнее, чем каскады - удобнее настраивать баланс «скорость ↔ качество» При том же уровне качества, что и у спекулятивной декодировки, новый метод работает быстрее (генерирует больше токенов за один вызов большой модели). А в задачах математических рассуждений получен явный апгрейд по скорости при сохранении или даже улучшении качества. LLM всё чаще используются в поиске, чатах, ассистентах. Чтобы они реально были полезными, их нужно ускорять и удешевлять. *Speculative cascades* помогают это сделать без потери качества. 🔗Подробнее: https://research.google/blog/speculative-cascades-a-hybrid-approach-for-smarter-faster-llm-inference/ @ai_machinelearning_big_data #AI#LLM#Inference#SpeculativeDecoding#Cascades#GoogleResearch