TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #755 · 2.02

Досмотрел Mr. Robot — сериал про хакера, который борется с корпорациями. Я начинал когда-то давно, несколько лет назад. Но потом бросил, потому что мне показалось, что от хакерства авторы слишком далеко ушли в другие темы. Однако недавно возобновил и не пожалел. Классный закрученный сюжет, своеобразная концовка (хотя на мой взгляд закончить стоило на три серии раньше), интересные персонажи, в том числе второстепенные. Но самое главное: это, кажется, единственный в своём роде фильм, где хакерство показано по-настоящему, а не как обычно в кино. Ну, вы знаете, любят авторы фильмов изображать бешено стучащего по клавиатуре чувака, а на экране при этом какой-нибудь случайный HTML. Это ещё в лучшем случае. Бывают прям супер кринжовые вещи, не просто не соответствующие действительности, но и с трудом поддающиеся описанию с точки зрения здравого смысла. Причём особенно нелепо это как раз смотрится в фильмах и сериалах про хакеров (Пароль "Рыба-меч", CSI: Cyber, Person Of Interest итд, много их). Предыдущее исключение, которое я помню, это Silicon Valley — там всё весьма похоже на действительность, и есть даже специфические шутки, понятные только программистам. Но мир всё равно вымышленный и несколько гротескный. "Мистер Робот" пошёл существенно дальше. Консультанты по айти у этого сериала сделали свою работу превосходно — практически всё, что показано — это реально существующие методы взлома. Персонажи делают осмысленные вещи, которые сработали бы и в жизни, а на экранах выводится адекватный код, никсовая консоль, логи и прочее подобное. Показан и прямой взлом через поиск уязвимостей, и социальная инженерия, и взлом железа, подделка прошивки, эксплойты, руткиты, брутфорс... Выходит, всё это время можно было сделать фильм с нормальным программированием, и при этом сохранить его популярным и интересным для зрителя (рейтинг на IMDB 8.6). Кто бы мог подумать, почему-то раньше никто особо не пытался, даже обидно. #fiction

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #speculativedecoding

当前筛选 #speculativedecoding清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8524 · 12.09.2025 г., 11:00

⚡Speculative Cascades — как ускорить работу LLM Google Research придумали новый способ сделать большие языковые модели быстрее и дешевле. Что это такое: 🔹Каскады Сначала отвечает маленькая модель. Если задача слишком сложная - подключается большая. Так экономятся ресурсы, но качество может прыгать. 🔹Спекулятивная декодировка Маленькая модель угадывает сразу несколько слов вперёд. Большая быстро проверяет данные и подтверждает. Скорость выше, но большая модель всё равно тратит много ресурсов. 🟢Speculative Cascades Это комбинация: маленькая модель иногда отвечает полностью сама, а иногда используется как ускоритель для большой. В итоге получаем меньше затрат, больше скорости и то же качество. 🔥Что показали тесты (тестили на Gemma, T5): - быстрее, чем обычная спекулятивная декодировка - дешевле и качественнее, чем каскады - удобнее настраивать баланс «скорость ↔ качество» При том же уровне качества, что и у спекулятивной декодировки, новый метод работает быстрее (генерирует больше токенов за один вызов большой модели). А в задачах математических рассуждений получен явный апгрейд по скорости при сохранении или даже улучшении качества. LLM всё чаще используются в поиске, чатах, ассистентах. Чтобы они реально были полезными, их нужно ускорять и удешевлять. *Speculative cascades* помогают это сделать без потери качества. 🔗Подробнее: https://research.google/blog/speculative-cascades-a-hybrid-approach-for-smarter-faster-llm-inference/ @ai_machinelearning_big_data #AI#LLM#Inference#SpeculativeDecoding#Cascades#GoogleResearch