TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #657 · 19.11

Лет десять назад мне очень нравилось всё, что делает и пишет Тёма Лебедев. Я с удовольствием читал "Ководство" и "Бизнес-линч". Мне импонировали его подходы к дизайну и к организации работы своей студии. Ещё я считал его человеком очень прямолинейным, который называет вещи своими именами и не боится высказываться не по шаблону. Когда я первый раз зашёл на сайт Студии Лебедева, увидел там слоган "Долго. Дорого. Ох**нно.", подумал ещё: "Ого, чувак прямо на своём официальном бизнес-сайте пишет не приторным рекламным языком, а что-то такое дерзкое." Потом на время перестал за ним следить, переключившись на другие источники. И вот в этих новых источниках в какой-то момент появился дискурс "Тёма Лебедев сошёл с ума и несёт какую-то ересь". Источники были в основном либерально-прозападные, я очень сильно им доверял и всецело без каких-либо сомнений принимал ту картину мира, которую они преподносят. Поэтому, не став вообще ничего смотреть и читать, что говорит Лебедев, я тоже совершенно чётко и однозначно принял для себя тезис "Лебедев сошёл с ума и несёт чушь". Если бы вы меня год назад спросили про Лебедева, я бы вам сказал: "Но ведь совершенно очевидно же, что Лебедев свихнулся и несёт херню". Это было частью объективной реальности вокруг меня, наряду с утверждениями "вода мокрая" и "солнце жёлтое". Как это совмещалось с тем, что прежде мне нравилось то, что делает и говорит Тёма? Никак. Кац, которого я активно смотрел, даже в одном из своих видео подробно пытался ответить на вопрос "Почему в целом неглупый Лебедев несёт чушь и высказывает какие-то нелиберальные и незападные идеи?". И ответом Каца было что-то в духе: "Это необъяснимо, скорее всего он один раз пошутил и сказал что-то пророссийское, шутка затянулась, теперь уже продолжает так говорить, чтобы сохранить лицо". Так себе объяснение, но я и его принял. За этот год на фоне известных событий мои взгляды претерпели много изменений. Я рефлексировал в себе этот вопрос, и когда-нибудь может напишу вам более подробно. Но Каца смотреть перестал почти сразу где-то в марте. Как минимум, либеральная идеология оказалась для меня несовместима с решением остаться в России, а я уезжать совсем не хочу. Тогда я для интереса посмотрел несколько роликов Лебедева и с удивлением обнаружил, что, во-первых, я согласен с 90% того, что он говорит. Ну вот прям дословно по некоторым пунктам (типа взгляды на взаимоотношения Европы с мигрантами или взгляды на ЛГБТ). И вообще у него удивительно близкая к моей система ценностей и представление о том, как люди должны себя вести. Во-вторых, он всё так же выглядит для меня просто чуваком, который прямым текстом называет вещи своими именами и открыто высказывает своё мнение по тем или иным вопросам, независимо от того, попадает ли это мнение в какую-либо идеологию или нет. Ну то есть я лет пять на полном серьёзе считал чела городским юродивым и был абсолютно уверен, что он задвигает безумную хрень, а чел всё это время говорил нормальные и правильные вещи (с моей точки зрения). Вместо того, чтобы самому сходить посмотреть на канал Тёмы, я посмотрел реакцию Каца на канал Тёмы и удовлетворился этим. Не будьте мной в этом вопросе. Независимо от вашей позиции на идеологическом компасе и от вашего отношения к упомянутым персонажам: формируйте своё мнение самостоятельно. P.S. Политические споры под этой записью запрещены, сразу бан. #life

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #2bitq

当前筛选 #2bitq清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #9516 · 13.02.2026 г., 15:23

🌟Tencent сжали 1.8B модель в 2 бита: 600 МБ веса и Dual-CoT на борту. Tencent Hunyuan выкатили open-source решение для тех, кто хочет запускать LLM локально на кофеварке. HY-1.8B-2Bit - модель, которую утрамбовали так плотно, что она занимает меньше места, чем многие современные мобильные приложения. Модель пилили методом Quantization-Aware Training, который в отличие от PTQ, позволяет адаптироваться к низкой разрядности весов еще на этапе тренировки. За основу взяли backbone Hunyuan-1.8B-Instruct и жестко сжали веса до 2 бит. При этом эффективный размер в памяти получился эквивалентен модели на 300М параметров, а физический вес получился всего 600 МБ. Что самое ценное - сохранили фичу Dual-CoT: модель умеет переключаться между быстрым мышлением для простых тасков и глубоким long-CoT для сложных. 🟡Бенчмарки 🟢По сравнению с fp16-учителем (1.8B), деградация метрик всего ~4%. Это очень мало для 2-битного квантования. 🟢Разница в точности на сравнении с INT4 ничтожна - 0.13%, хотя весит модель в 2 раза меньше. 🟢Если взять плотную модель на 0.5B параметров, то HY-1.8B-2Bit обходит ее в среднем на 16-17%. На GSM8K разрыв вообще дикий: +22.29%. 🟢Prefill ускорился в 3-8 раз, генерация токенов - в 2-3 раза на поддерживаемом железе. 🟡Жирный нюанс Текущая реализация требует поддержки инструкций Arm SME2. Это значит, что вся эта красота заведется только на Apple M4 и MediaTek Dimensity 9500. Если у вас M1/M2 или Snapdragon прошлых поколений - пока мимо. Разработчики обещают подвезти Neon kernel позже. Кстати, GGUF тоже есть, так что если под рукой есть M4 - можно тестить. Остальным остается ждать оптимизации под старые инструкции. 🟡Модель 🟡GGUF 🟡Техотчет 🖥GitHub @ai_machinelearning_big_data #AI#ML#SLM#2bitQ#Tencent