TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #766 · 22.02

Тёму Лебедева заблочили на ютубе с концами. До этого отключали на 2-3 недели, а сейчас удалили основной и резервный каналы. Он давно говорил о такой возможности, так что ни для него, ни для его аудитории особо никакой катастрофы не случилось (все ролики всё время дублировались в несколько соцсетей). Интересно тут другое. Я, как вы помните, уже около года регулярно его смотрю. И вся риторика там сводится к: "Я люблю жить в России". Никаких призывов к насилию, например, никогда не было: более того, он прямым текстом много раз подчёркивал, что против любого проявления насилия, что войну надо называть войной и так далее. Если детально разобрать любой его ролик за последний год, то там будет не более чем выражение личного мнения, пусть и с матом и местами грубо и прямолинейно. Я в значительной степени уверен, что Ютуб забанил Тёму не за содержание его видео, потому что тогда нужно перебанить всё, кроме каналов для младенцев. Думаю, что Ютуб забанил Тёму просто за количество страйков, которые на него регулярно уже много времени массово кидают идеологические противники. Ну, то есть, скорее всего достаточно большой толпой можно закрыть практически любой канал. Косвенно эту гипотезу подтверждает и тот факт, что в тот же день забанили канал блогера Камикадзе Д (помните такого?), который как раз вёл, наоборот, крайне антироссийскую риторику. Да, Ютуб принадлежит Гуглу, а про Гугл понятно, что он ангажирован. И, всё-таки, скорее всего просто не особо хотели разбираться, а с миллионом страйков делать что-то надо. Тёме конечно пофиг, у него бизнес не зависит от видеоблога. Но есть люди, которые прям сильно пострадали из-за таких блокировок (например Стас Ай как просто). Казалось бы — нужно не строить своё дело в такой значительной зависимости от какой-либо корпорации. Но капитализм и монополии зачастую не дают никакого выбора: попробуй, например, выпусти мобильное приложение без зависимости от Эпла или Гугла. #web

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #2bitq

当前筛选 #2bitq清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #9516 · 13.02.2026 г., 15:23

🌟Tencent сжали 1.8B модель в 2 бита: 600 МБ веса и Dual-CoT на борту. Tencent Hunyuan выкатили open-source решение для тех, кто хочет запускать LLM локально на кофеварке. HY-1.8B-2Bit - модель, которую утрамбовали так плотно, что она занимает меньше места, чем многие современные мобильные приложения. Модель пилили методом Quantization-Aware Training, который в отличие от PTQ, позволяет адаптироваться к низкой разрядности весов еще на этапе тренировки. За основу взяли backbone Hunyuan-1.8B-Instruct и жестко сжали веса до 2 бит. При этом эффективный размер в памяти получился эквивалентен модели на 300М параметров, а физический вес получился всего 600 МБ. Что самое ценное - сохранили фичу Dual-CoT: модель умеет переключаться между быстрым мышлением для простых тасков и глубоким long-CoT для сложных. 🟡Бенчмарки 🟢По сравнению с fp16-учителем (1.8B), деградация метрик всего ~4%. Это очень мало для 2-битного квантования. 🟢Разница в точности на сравнении с INT4 ничтожна - 0.13%, хотя весит модель в 2 раза меньше. 🟢Если взять плотную модель на 0.5B параметров, то HY-1.8B-2Bit обходит ее в среднем на 16-17%. На GSM8K разрыв вообще дикий: +22.29%. 🟢Prefill ускорился в 3-8 раз, генерация токенов - в 2-3 раза на поддерживаемом железе. 🟡Жирный нюанс Текущая реализация требует поддержки инструкций Arm SME2. Это значит, что вся эта красота заведется только на Apple M4 и MediaTek Dimensity 9500. Если у вас M1/M2 или Snapdragon прошлых поколений - пока мимо. Разработчики обещают подвезти Neon kernel позже. Кстати, GGUF тоже есть, так что если под рукой есть M4 - можно тестить. Остальным остается ждать оптимизации под старые инструкции. 🟡Модель 🟡GGUF 🟡Техотчет 🖥GitHub @ai_machinelearning_big_data #AI#ML#SLM#2bitQ#Tencent