TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #587 · 7.10

The Verge пишет, что в компании Цукерберга вице-президент в середине сентября разослал сотрудникам письмо в духе: "Что-то по статистике наши разработчики сами почти не используют Horizon Worlds (VR-мир с мультяшными аватарами, который они делают, вы наверное видели в рекламе), нехорошо, начинайте использовать сейчас же!". А потом через две недели ещё одно письмо: "Коллеги, всё ещё никто не использует, буду штрафовать менеджеров. И вообще, мы начали разрабатывать план, по которому каждый обязан туда заходить хотя бы раз в неделю!". (Он писал не такими словами, это моя вольная интерпретация общего смысла, но про раз в неделю почти цитата). Есть такое понятие dogfooding (Eating your own dog food — есть еду своей собаки). Оно обозначает практику использования продукта сотрудниками компании, которая этот продукт делает. Понятно, что всегда есть исключения: бывает физическая невозможность использования (например, мужчины в фирме по производству прокладок), бывают адекватные отличия в целевой аудитории (взрослые делают продукты для детей, но сами не являются потребителями). Бывают ещё, например, продукты определённого экономического класса: владелец АвтоВАЗ не ездит на ВАЗ, и это нормально с учётом того, что ВАЗ не производит премиум-автомобили для богатых людей. У них просто нет моделей под бюджет в 5-7 миллионов рублей. Но если сотрудники компании входят в ЦА, то, конечно, возникают вопросы. Несколько лет назад был скандал: вроде бы сотрудника Samsumg уволили за использование айфона — мне это решение кажется верным. Вот ребята из JetBrains все сидят на собственных IDE добровольно и с удовольствием, потому что они реально лучшие на рынке. Ребята из VK иногда используют VK, а иногда нет. Некоторые чаты сотрудников VK создают в Телеграме. И блоги комментируют в Телеграме, даже если точно такие же есть в VK (привет :) ). Ну и ещё отдельно меня расстраивает, что сотрудники VK не ведут страницы сами. Вон раньше Дуров всем показывал пример и писал у себя на странице VK всякие новости и размышления. А сейчас он делает то же самое в Телеграме. А сотрудники VK не делают, особенно руководство. Вообще, отсутствие публичного евангелиста (главным образом среди руководителей) — важная составляющая текущей репутационной картины VK, на мой взгляд. Но, если приходится издавать указ "Заставить сотрудников под угрозой штрафа заходить в свой продукт раз в неделю", то лично я бы вернулся к основам и задумался над тем, является ли продукт нужным и интересным. #web

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #speculativedecoding

当前筛选 #speculativedecoding清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8524 · 12.09.2025 г., 11:00

⚡Speculative Cascades — как ускорить работу LLM Google Research придумали новый способ сделать большие языковые модели быстрее и дешевле. Что это такое: 🔹Каскады Сначала отвечает маленькая модель. Если задача слишком сложная - подключается большая. Так экономятся ресурсы, но качество может прыгать. 🔹Спекулятивная декодировка Маленькая модель угадывает сразу несколько слов вперёд. Большая быстро проверяет данные и подтверждает. Скорость выше, но большая модель всё равно тратит много ресурсов. 🟢Speculative Cascades Это комбинация: маленькая модель иногда отвечает полностью сама, а иногда используется как ускоритель для большой. В итоге получаем меньше затрат, больше скорости и то же качество. 🔥Что показали тесты (тестили на Gemma, T5): - быстрее, чем обычная спекулятивная декодировка - дешевле и качественнее, чем каскады - удобнее настраивать баланс «скорость ↔ качество» При том же уровне качества, что и у спекулятивной декодировки, новый метод работает быстрее (генерирует больше токенов за один вызов большой модели). А в задачах математических рассуждений получен явный апгрейд по скорости при сохранении или даже улучшении качества. LLM всё чаще используются в поиске, чатах, ассистентах. Чтобы они реально были полезными, их нужно ускорять и удешевлять. *Speculative cascades* помогают это сделать без потери качества. 🔗Подробнее: https://research.google/blog/speculative-cascades-a-hybrid-approach-for-smarter-faster-llm-inference/ @ai_machinelearning_big_data #AI#LLM#Inference#SpeculativeDecoding#Cascades#GoogleResearch