TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #759 · 6.02

Попробовали с друзьями детективный квест «Безмолвный свидетель» от Лавки Игр. Это такая мини настольная игра, работающая вместе с навыком для Алисы. В Алисе записанные профессиональными актёрами реплики и атмосферный звук погружают вас в сюжет некоего таинственного убийства, которое вы должны раскрыть, разговаривая с персонажами. Физически при этом есть карточки с людьми, предметами и локациями, которые вы открываете в нужном порядке, чтобы видеть ваш инструментарий. Например, какой-то человек упоминает другого, и Алиса вам командует открыть карточки с такими-то номерами. У вас появляется новый персонаж и реплики с вашей стороны, которые вы можете теперь говорить в том числе всем предыдущим персонажам, получая доступ к новым веткам диалогов. (Не рассматривайте детали на фото, если не хотите словить спойлеры). С этим квестом связана прикольная история: когда Лавка только презентовала его, я им написал: «Так и так, я аккредитованный Яндексом и Сбером разработчик под голосовые платформы, большой опыт, давайте вам сделаю что-нибудь». Меня проигнорировали, а в итоге игра вышла с техническими и UX проблемами. Про часть этих проблем написано несколько раз прямо на карточках для игры. В конечном счёте со мной всё-таки связались, и я описал алгоритм решения, посмотрим, внедрят ли его в следующих частях. Если говорить о самой игре, то приключение вышло очень интересное и захватывающее. Мы с друзьями убийцу не нашли, потому что слишком много думали: отбросили первую же гипотезу из-за простоты, а она в итоге и оказалась верной. Да, в диалогах есть пара нелогичных и запутывающих кусочков, но, если бы вы были настоящим детективом, беседующим с настоящими людьми, путаницы было бы ещё больше, так что посчитаем это изюминкой. В остальном оригинальная механика, действительно хорошее погружение в атмосферу и вполне решаемая задачка (хотя мои друзья после игры сказали, что им ответ не нравится и кажется притянутым за уши, но лично я с этим мнением не согласен). В качестве недостатка отмечу очень плохое техническое состояние навыка. Допустим, UX вылизать не смогли, потому что не было опыта в Алисе. Но просто обеспечить бесперебойную работу — не великого ума дело. У нас (и, судя по чатам, не только у нас) постоянно навык сваливался в «Не отвечает», и приходилось ждать неопределённое время, пока он заработает. Навскидку возможных причин четыре: 1. Плохая обработка ошибок времени выполнения, программа сваливается в пятисотую, пока что-то её не перезагрузит по таймеру. 2. Плохая обработка возможного состояния сессии, программа сваливается в пятисотую, пока Яндекс не сбросит кэш состояния игрока. 3. Слабый сервак, устаревший медленный язык программирования. 4. Плохое проектирование программы на многопоточную нагрузку: какие-нибудь синхронные операции оправки данных в статистику, отсутствие горячего кэша, неэффективные структуры данных — всё, что может периодически увеличивать лаг выше разрешённого Яндексом. В какой-то момент уже в самом конце мы были очень злы из-за багов и почти полезли в сеть тупо смотреть прохождение. Если бы навык не ожил, впечатления от игры были бы критически негативные. А так они скорее позитивные. Если Лавка исправит проблемы, то очень рекомендую. Да, игра по сути одноразовая, но и стоит она как билет в кино: вы покупаете классное развлечение на целый вечер для компании почти любого размера. Вторую часть обязательно возьму, когда выйдет. #games

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #speculativedecoding

当前筛选 #speculativedecoding清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8524 · 12.09.2025 г., 11:00

⚡Speculative Cascades — как ускорить работу LLM Google Research придумали новый способ сделать большие языковые модели быстрее и дешевле. Что это такое: 🔹Каскады Сначала отвечает маленькая модель. Если задача слишком сложная - подключается большая. Так экономятся ресурсы, но качество может прыгать. 🔹Спекулятивная декодировка Маленькая модель угадывает сразу несколько слов вперёд. Большая быстро проверяет данные и подтверждает. Скорость выше, но большая модель всё равно тратит много ресурсов. 🟢Speculative Cascades Это комбинация: маленькая модель иногда отвечает полностью сама, а иногда используется как ускоритель для большой. В итоге получаем меньше затрат, больше скорости и то же качество. 🔥Что показали тесты (тестили на Gemma, T5): - быстрее, чем обычная спекулятивная декодировка - дешевле и качественнее, чем каскады - удобнее настраивать баланс «скорость ↔ качество» При том же уровне качества, что и у спекулятивной декодировки, новый метод работает быстрее (генерирует больше токенов за один вызов большой модели). А в задачах математических рассуждений получен явный апгрейд по скорости при сохранении или даже улучшении качества. LLM всё чаще используются в поиске, чатах, ассистентах. Чтобы они реально были полезными, их нужно ускорять и удешевлять. *Speculative cascades* помогают это сделать без потери качества. 🔗Подробнее: https://research.google/blog/speculative-cascades-a-hybrid-approach-for-smarter-faster-llm-inference/ @ai_machinelearning_big_data #AI#LLM#Inference#SpeculativeDecoding#Cascades#GoogleResearch