TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #499 · 10.08

В массовых источниках информации пишут, что в Сочи сейчас дикие толпы людей на пляжах, и туда лучше не ехать. Но у нас пригород Сочи и выделенный пляж от отеля, толп вообще нет. Конечно, за это пришлось чуть больше заплатить (ненамного, учитывая в целом высокие сочинские цены), а ещё слегка потерять в инфраструктуре, но окупается полностью. И тут я подумал, а можно ли как-то объективно понимать разницу между издержками и выгодой? Не только с пляжами, вообще в жизни. Вот кто-то стоит в очереди в кассу метро, потому что лично для него это удобнее и комфортнее, чем учиться пользоваться автоматом. Можем ли мы отличать ситуации "Он выбирает то, что ему субъективно удобнее, отстаньте от него" и "Он совершает объективную ошибку, отказываясь тратить чуть больше усилий ради куда бОльшей выгоды впоследствии"? Если люди делают что-то, что вам кажется неудобным/неэффективным, то как понимать: это просто вариант личных предпочтений, или действительно людям стоило бы рассмотреть разные варианты? Допустим, кто-то не ест лук, но лук полезный, а ещё присутствует во многих блюдах. Почему бы такому человеку не терпеть личный дискомфорт от употребления лука ради объективно более удобного выбора? Чем это отличается от очередей в кассу вместо автомата, от вызова такси по телефону вместо приложений, от просмотра фильмов с рекламой по телевизору вместо стриминга? На мой взгляд ответ такой: если усилия нужно вкладывать единожды, либо непродолжительное время, но взамен ты получишь систематическую выгоду надолго или навсегда, то отказ от вложения усилий это объективная ошибка, а не вкусовое предпочтение. Например, ты один раз учишься пользоваться автоматом, и потом больше никогда не стоишь в очереди в кассу. Ты один раз платишь больше денег, и потом в течение многих дней не терпишь толпы на пляже. Ты один раз покупаешь паркинг, и потом никогда не ищешь часами место во дворе. При этом бывает и обратная ситуация: вот бросить курить очень сложно, в этом я верю курильщикам. Ты в течение многих месяцев вкладываешь значительные усилия, а потом до конца жизни так или иначе себя сдерживаешь, при этом выгода очень условная — трудно оценить, сколько лет тебе в итоге добавил отказ от курения. Разве что деньги на сигареты не тратишь, но вложения всё равно систематические. Так что выбор "не бросать курить" понятен. Другое дело, с этой точки зрения не понятен выбор "начинать курить", но это отдельный разговор. С луком аналогично: нельзя привыкнуть его есть, если ты его не любишь. Я вот за 32 года так и не привык, хотя периодически приходится: недавно в ресторане заказал пасту, и она почему-то оказалась с луком, а ведь по классическому рецепту не должна была. Наверняка, можно как-то более точно поделить. Не любые разовые усилия оправдываются даже систематической выгодой (пример: покупка автомобиля в городе, до сих пор очень спорная вещь). Но для меня граница лежит где-то тут. Однократная трата ресурсов для постоянного увеличения эффективности и/или комфорта — это форма автоматизации. #life

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #speculativedecoding

当前筛选 #speculativedecoding清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8524 · 12.09.2025 г., 11:00

⚡Speculative Cascades — как ускорить работу LLM Google Research придумали новый способ сделать большие языковые модели быстрее и дешевле. Что это такое: 🔹Каскады Сначала отвечает маленькая модель. Если задача слишком сложная - подключается большая. Так экономятся ресурсы, но качество может прыгать. 🔹Спекулятивная декодировка Маленькая модель угадывает сразу несколько слов вперёд. Большая быстро проверяет данные и подтверждает. Скорость выше, но большая модель всё равно тратит много ресурсов. 🟢Speculative Cascades Это комбинация: маленькая модель иногда отвечает полностью сама, а иногда используется как ускоритель для большой. В итоге получаем меньше затрат, больше скорости и то же качество. 🔥Что показали тесты (тестили на Gemma, T5): - быстрее, чем обычная спекулятивная декодировка - дешевле и качественнее, чем каскады - удобнее настраивать баланс «скорость ↔ качество» При том же уровне качества, что и у спекулятивной декодировки, новый метод работает быстрее (генерирует больше токенов за один вызов большой модели). А в задачах математических рассуждений получен явный апгрейд по скорости при сохранении или даже улучшении качества. LLM всё чаще используются в поиске, чатах, ассистентах. Чтобы они реально были полезными, их нужно ускорять и удешевлять. *Speculative cascades* помогают это сделать без потери качества. 🔗Подробнее: https://research.google/blog/speculative-cascades-a-hybrid-approach-for-smarter-faster-llm-inference/ @ai_machinelearning_big_data #AI#LLM#Inference#SpeculativeDecoding#Cascades#GoogleResearch