TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #601 · 18.10

Лена у себя написала про беспомощную западную техноддержку. Я вам тоже о нескольких таких случаях из своей жизни рассказывал. Возможно, у вас ссылка не откроется, процитирую небольшой кусочек: «...современные автоматизированные поддержки, которые работают по алгоритму, задизайнены совсем не для таких людей, как я — кто инициирует синхронное взаимодействие с человеком только после того, как исчерпает ресурсы найти ответ на вопрос самостоятельно. При этом хорошо, если отвечает сразу человек — а теперь ведь нередко и робот, который в принципе никогда не может ответить на мой запрос, потому что ответы на простые вопросы я нахожу самостоятельно. И уж если я и обратилась в поддержку, то это всегда какой-то сложный вопрос или нестандартная ситуация, на который робот не ответит никогда. Но даже и с белковым агентом поддержки в последнее время все чаще натыкаешься на ситуацию, когда твоя проблема не вписывается в лекала частых вопросов и проблем и спустя десятки минут бесплодного общения <...> всё, что они делают, — это разводят руками: „Мы исчерпали наши возможности“. Более того, не эскалируют проблему тем, кто компетентен в ней разобраться и ее решить..» Это абсолютная правда, хотя в России я натыкался на такие вещи существенно реже. Либо вообще русские цифровые сервисы сделаны лучше, и приходится обращаться в саппорт меньше. Либо просто русский человек не так часто может изображать из себя идиота, даже если ему дан приказ работать по скрипту. Я задумался -- почему всё-таки поддержка у крупных компаний в основном именно такая? По крайней мере мой личный опыт весьма однозначен: за последний год было штук пять обращений в разные англоязычные сервисы, и четыре из них зависли на скрипте (не завис Гитхаб -- честно решил мою проблему). Видимо, бизнесу выгодно содержать такую поддержку и не выгодно содержать другую. Моя гипотеза: стоимость незаскриптованного человека достаточно велика, а количество не тупых обращений достаточно мало, чтобы не было смысла заморачиваться. Жаль, что в интерфейсах не делают галочки "Я не тупой". Компании могли бы содержать одного умного специалиста поддержки, он бы получал по одному сообщению в день от редких умных людей, которые действительно наткнулись на серьёзную проблему. А скрипто-обезьянки обрабатывали бы запросы, ответ на которые выпадает первой строчкой в гугле. Но, наверное, человечеству нужно идти ещё дальше и пускать в интернет людей только после сдачи экзамена по работе с интерфейсами. Да, знаю, компании и сами то не спешат сейчас делать вменяемый UI: например, была история о том, что для остановки платной подписки на Amazon нужно было сделать десяток очень неочевидных действий, нажимать на кнопки с непонятным содержимым мелким шрифтом, проматывать страницы до конца, ставить строго определённые галочки и так далее. Наказанием для таких компаний был бы отказ пользователей от их услуг, но в рамках капиталистических монополий у юзеров особо нет выбора. Возможно люди, которые когда-то сдавали сложный экзамен по UI, позже, работая в корпорациях, будут с меньшей охотой делать запарный и непонятный интерфейс. #web

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #speculativedecoding

当前筛选 #speculativedecoding清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8524 · 12.09.2025 г., 11:00

⚡Speculative Cascades — как ускорить работу LLM Google Research придумали новый способ сделать большие языковые модели быстрее и дешевле. Что это такое: 🔹Каскады Сначала отвечает маленькая модель. Если задача слишком сложная - подключается большая. Так экономятся ресурсы, но качество может прыгать. 🔹Спекулятивная декодировка Маленькая модель угадывает сразу несколько слов вперёд. Большая быстро проверяет данные и подтверждает. Скорость выше, но большая модель всё равно тратит много ресурсов. 🟢Speculative Cascades Это комбинация: маленькая модель иногда отвечает полностью сама, а иногда используется как ускоритель для большой. В итоге получаем меньше затрат, больше скорости и то же качество. 🔥Что показали тесты (тестили на Gemma, T5): - быстрее, чем обычная спекулятивная декодировка - дешевле и качественнее, чем каскады - удобнее настраивать баланс «скорость ↔ качество» При том же уровне качества, что и у спекулятивной декодировки, новый метод работает быстрее (генерирует больше токенов за один вызов большой модели). А в задачах математических рассуждений получен явный апгрейд по скорости при сохранении или даже улучшении качества. LLM всё чаще используются в поиске, чатах, ассистентах. Чтобы они реально были полезными, их нужно ускорять и удешевлять. *Speculative cascades* помогают это сделать без потери качества. 🔗Подробнее: https://research.google/blog/speculative-cascades-a-hybrid-approach-for-smarter-faster-llm-inference/ @ai_machinelearning_big_data #AI#LLM#Inference#SpeculativeDecoding#Cascades#GoogleResearch