TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #61 · 1.07

Посмотрел дебаты Панчина и Редько, где первый топил за вакцинацию, а второй — против конкретно вакцинации от ковида в текущий момент. Панчина я знаю давно (не лично, хотя видел его пару раз), и он говорит непротиворечивые вещи, которые согласуются с моими собственными наблюдениями за тем, как устроен мир. При этом его оппонент держался не слишком уверенно, не обладал стройной речью, говорил сбивчиво и путался, использовал терминологию в стиле «Вы всё врёте» и упомянул, что смотрит Соловьева. Ну и оговорка (?) про «лохокост» тоже очень резанула уши. Для меня исход дебатов очевиден: победа Панчина с большим отрывом Точнее даже фактически дебаты толком не состоялись, потому что хорошей дискуссии я не увидел. Но, если посмотреть объективно, то оппоненты говорили о вещах, в которых я не разбираюсь, и истинность/ложность многих посылов гарантированно подтвердить не могу. То есть чисто гипотетически возможно, что это не тёмный Редько нёс ерунду, а на самом деле языкастый Панчин заговорил всем зубы. Потом я подумал, а существует ли способ, не обучая меня 20 лет на врача, относительно надежно дать мне возможность разобраться, где тут правда? И, пожалуй, ответ нет. Более того — даже обучая, всё равно нет. А проблема тут в том, что люди отрицают даже вполне объективные вещи, если только их нельзя строго научно обосновать. Если можно -- тоже отрицают, но с такими людьми можно ни в какие дебаты не вступать. А вот если не было проведено исследование о том, что вода мокрая, то спуск по дереву абстракции до этого аргумента всё равно не позволит надёжно свой постулат подтвердить и оппоненту и слушателям. А есть исследование, что вода мокрая? Можно ли доверять этому исследованию? А мне знакомый гидролог сказал, что не мокрая. И у моего друга не мокрая. И вообще, вы же понимаете, лёд это тоже вода, а он не совсем мокрый. Я это на своей сфере остро чувствую. В чатах разработчиков, допустим, теоретически все являются компетентными специалистами, а по факту всё равно всерьёз возникают заявления о том, что, например, система типов в JavaScript -- логичная и предсказуемая, что абстрактные классы не нужны, что не обязательно ставить пробелы вокруг операторов, что отсутствие array-helper'ов в Go это благо и так далее. Впрочем, в комментариях под дебатами на ютубе справедливо раскритиковали, что ведущей следовало сделать хотя бы минимальный факт-чекинг по результатам. А то дебатирующие просто обвиняли друг друга во лжи, и в общем случае произвольному слушателю надёжно понять, кто из них прав, было нельзя. #life

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #speculativedecoding

当前筛选 #speculativedecoding清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8524 · 12.09.2025 г., 11:00

⚡Speculative Cascades — как ускорить работу LLM Google Research придумали новый способ сделать большие языковые модели быстрее и дешевле. Что это такое: 🔹Каскады Сначала отвечает маленькая модель. Если задача слишком сложная - подключается большая. Так экономятся ресурсы, но качество может прыгать. 🔹Спекулятивная декодировка Маленькая модель угадывает сразу несколько слов вперёд. Большая быстро проверяет данные и подтверждает. Скорость выше, но большая модель всё равно тратит много ресурсов. 🟢Speculative Cascades Это комбинация: маленькая модель иногда отвечает полностью сама, а иногда используется как ускоритель для большой. В итоге получаем меньше затрат, больше скорости и то же качество. 🔥Что показали тесты (тестили на Gemma, T5): - быстрее, чем обычная спекулятивная декодировка - дешевле и качественнее, чем каскады - удобнее настраивать баланс «скорость ↔ качество» При том же уровне качества, что и у спекулятивной декодировки, новый метод работает быстрее (генерирует больше токенов за один вызов большой модели). А в задачах математических рассуждений получен явный апгрейд по скорости при сохранении или даже улучшении качества. LLM всё чаще используются в поиске, чатах, ассистентах. Чтобы они реально были полезными, их нужно ускорять и удешевлять. *Speculative cascades* помогают это сделать без потери качества. 🔗Подробнее: https://research.google/blog/speculative-cascades-a-hybrid-approach-for-smarter-faster-llm-inference/ @ai_machinelearning_big_data #AI#LLM#Inference#SpeculativeDecoding#Cascades#GoogleResearch