TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #444 · 11.07

Вы наверняка знаете о проекте "Кибердеревня" от творческой группы Birchpunk. У них же есть совместная песня с петрозаводским рэпером Albatross, где главный герой читает из будущего о войне с машинами. Там звучат такие строчки: You will never see a normal sidewalk indeed But every moron has a phone with FaceID Он рассуждает о том, что человечество использует технологии неправильно: раз техническое развитие позволяет буквально каждому дураку иметь hi-end устройство с крутыми функциями, почему мы не можем сделать в городах нормальные тротуары? Online cameras watch the hood, delivery droids carry the food But my babushka* has to go to hospital on foot We use technology for something wrong If you're indifferent, why robots should be strong? Я и задумался: а правда, почему так получается? Человечество достигло невероятных высот в обслуживании индивидуума. У нас с вами в домах висят экраны на всю стену и стоят процессоры из нанометрового кремния, выполняющие по триллиону операций в секунду с данными на другом конце планеты. Роботы стирают, убирают и моют посуду, некоторым людям лечат технологиями полную глухоту, стабилизируют электроникой сердцебиение. Мы используем топовые материалы для вещей вокруг нас и для производства одежды, беговые кроссовки могут стоить несколько тысяч долларов и вовлекать совокупный труд тысячи человек. Как получилось, что цивилизация с таким развитием допускает на улицах мусор и разбитый асфальт? Почему у нас так плохо решены социальные проблемы? Почему бывают бомжи и алкоголики? Почему существует грязь и упадок в отдельных местах? Можно подумать, что люди не готовы платить за общее, а готовы только за личное, но я не верю в это. Я вот готов платить, и, думаю, таких много. Но почему-то экономика работает здесь странным образом: обычная квартира может стоить, например, 10 миллионов рублей, а абсолютно такая же квартира в жилом комплексе с хорошим двором уже 20 миллионов. Как так выходит? Если с каждой из тысячи квартир собрать по 10 миллионов сверху, получится 10 миллиардов — неужели двор столько стоит? Я уверен, что даже с учётом распилов и откатов нет, и можно сделать на два порядка дешевле. Вообще очень многие места по моим наблюдениям можно улучшить небольшими силами. Но заплатить эти деньги не предлагают, видимо, считают, что люди платить не станут. Если так, то почему? Где развитие общества пошло не так? Как мы, человечество, вообще дошли до такой сильной разницы между индивидуальным и общим? #life * автор использует смесь русского и английского в песне, говорит с умышленно выраженным акцентом, а ещё ведёт для англоговорящих людей обучающие видеоролики по разговорному русскому, поэтому применяет известный в англоязычном мире термин babushka вместо grandma.

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #2bitq

当前筛选 #2bitq清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #9516 · 13.02.2026 г., 15:23

🌟Tencent сжали 1.8B модель в 2 бита: 600 МБ веса и Dual-CoT на борту. Tencent Hunyuan выкатили open-source решение для тех, кто хочет запускать LLM локально на кофеварке. HY-1.8B-2Bit - модель, которую утрамбовали так плотно, что она занимает меньше места, чем многие современные мобильные приложения. Модель пилили методом Quantization-Aware Training, который в отличие от PTQ, позволяет адаптироваться к низкой разрядности весов еще на этапе тренировки. За основу взяли backbone Hunyuan-1.8B-Instruct и жестко сжали веса до 2 бит. При этом эффективный размер в памяти получился эквивалентен модели на 300М параметров, а физический вес получился всего 600 МБ. Что самое ценное - сохранили фичу Dual-CoT: модель умеет переключаться между быстрым мышлением для простых тасков и глубоким long-CoT для сложных. 🟡Бенчмарки 🟢По сравнению с fp16-учителем (1.8B), деградация метрик всего ~4%. Это очень мало для 2-битного квантования. 🟢Разница в точности на сравнении с INT4 ничтожна - 0.13%, хотя весит модель в 2 раза меньше. 🟢Если взять плотную модель на 0.5B параметров, то HY-1.8B-2Bit обходит ее в среднем на 16-17%. На GSM8K разрыв вообще дикий: +22.29%. 🟢Prefill ускорился в 3-8 раз, генерация токенов - в 2-3 раза на поддерживаемом железе. 🟡Жирный нюанс Текущая реализация требует поддержки инструкций Arm SME2. Это значит, что вся эта красота заведется только на Apple M4 и MediaTek Dimensity 9500. Если у вас M1/M2 или Snapdragon прошлых поколений - пока мимо. Разработчики обещают подвезти Neon kernel позже. Кстати, GGUF тоже есть, так что если под рукой есть M4 - можно тестить. Остальным остается ждать оптимизации под старые инструкции. 🟡Модель 🟡GGUF 🟡Техотчет 🖥GitHub @ai_machinelearning_big_data #AI#ML#SLM#2bitQ#Tencent