TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #1041 · 22.11

Вот и 35. Я, кстати, родился ровно в 0:00, маму даже спрашивали, какую дату записываем. Это ещё и момент перемены знака зодиака, так что я наполовину Скорпион, а наполовину Стрелец, если верить во всю эту фигню. Но я не верю, а звёзды с момента создания зодиакального круга давно сместились. Пишу сейчас вам это, потому что 35 с небольшим лет назад мои родители приняли решение завести ребёнка. С появлением Ромки я ещё более уважительно стал относиться к этому. Мы воспринимаем жизнь, как должное, но количество сил, нервов и внимания, которое наши родители в нас вложили, трудно оценить. К тому же, нас с вами выращивали в девяностые, и это отдельный челлендж. Во-первых, доступно было гораздо меньше, чем в наши дни: я нажимаю две кнопки в телефоне, и через час у меня любая еда и любой товар, в том числе для ребёнка. Во-вторых, обстановка была опаснее, даже с учётом нынешней геополитической ситуации. Что могу сказать. Дети, не верьте взрослым. Молодые, не верьте старым. Вот мне 35. Зубы не выпали, лысеть не начал, так и не понял, зачем люди курят, сохранил многих друзей, сохранил многие хобби, не пребываю в депрессии, а поясницу ломит разве что на следующей день после становой, и быстро проходит. Зато приобрёл много интересных способностей. Например, в юности мне было очень тяжело вставать по будильнику, физически это ощущалось, как предельно неприятное состояние. И я каждый раз перед будним днём засыпал с плохим настроением. Сейчас спать в такие моменты тоже хочется, но катастрофой подъём по будильнику не кажется. Или, скажем, легче переносятся долгие поездки куда-то. Спокойнее терплю людей, которые пытаются вывести меня из себя глупыми шутками, едкими замечаниями или критикой. Уверенности во многом тоже прибавилось. Подарил себе не таблеточки, не сертификат к врачу, не унылую бытовую фигню, а новый 3D-принтер, завтра расскажу подробнее. Поздравлять можно в комментах. Только не звонками, пожалуйста. Их я всё ещё не переношу. Наверное после 70-ти смогу. #life

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #speculativedecoding

当前筛选 #speculativedecoding清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8524 · 12.09.2025 г., 11:00

⚡Speculative Cascades — как ускорить работу LLM Google Research придумали новый способ сделать большие языковые модели быстрее и дешевле. Что это такое: 🔹Каскады Сначала отвечает маленькая модель. Если задача слишком сложная - подключается большая. Так экономятся ресурсы, но качество может прыгать. 🔹Спекулятивная декодировка Маленькая модель угадывает сразу несколько слов вперёд. Большая быстро проверяет данные и подтверждает. Скорость выше, но большая модель всё равно тратит много ресурсов. 🟢Speculative Cascades Это комбинация: маленькая модель иногда отвечает полностью сама, а иногда используется как ускоритель для большой. В итоге получаем меньше затрат, больше скорости и то же качество. 🔥Что показали тесты (тестили на Gemma, T5): - быстрее, чем обычная спекулятивная декодировка - дешевле и качественнее, чем каскады - удобнее настраивать баланс «скорость ↔ качество» При том же уровне качества, что и у спекулятивной декодировки, новый метод работает быстрее (генерирует больше токенов за один вызов большой модели). А в задачах математических рассуждений получен явный апгрейд по скорости при сохранении или даже улучшении качества. LLM всё чаще используются в поиске, чатах, ассистентах. Чтобы они реально были полезными, их нужно ускорять и удешевлять. *Speculative cascades* помогают это сделать без потери качества. 🔗Подробнее: https://research.google/blog/speculative-cascades-a-hybrid-approach-for-smarter-faster-llm-inference/ @ai_machinelearning_big_data #AI#LLM#Inference#SpeculativeDecoding#Cascades#GoogleResearch