TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #554 · 14.09

В сети пишут, что у Patreon финансовые сложности: закрыли подразделения в Берлине и Дублине, увольняют сотрудников. Патреон — сравнительно простой технически сайт, у которого толком не было мажорных обновлений. Самое сложное там это работа с выплатами, но вряд ли она у них своя самописная, наверняка пользуются чем-то типа Stripe. При этом у Патреона очень понятная бизнес-модель с линейным масштабированием и почти нет потребности в сложном маркетинге (популярные блогеры сами тебя постоянно рекламируют миллионам людей, потому что ты источник их заработка). Короче, просрать Патреон это надо уметь. Кажется, топ менеджеры покупали себе слишком дорогие яхты, иначе я не могу объяснить. Перегруженность и непрозрачность процессов, низкая эффективность как сотрудников, так и финансовых вложений — одни из фундаментальных проблем энтерпрайза, я вам как-то уже об этом рассказывал. При этом сама модель мне нравится. Я рад, что она заработала, хотя внутренний менталитет русского человека видит тут некоторое противоречие: как же это отдать деньги добровольно не за товар или услугу, а просто чтобы поддержать факт существования какого-то интересного для тебя явления? Можно же поддержать лайком или хорошим комментарием, но деньги??? Нет, деньги надо только на хлеб обменивать. Так думают многие мои знакомые. Но не все, и не я. До остановки платежей был подписан на десяток проектов и нигде не читал, собственно, саму ленту Патреона. Мне не слишком интересны бэкстейджи и ранний доступ, я продолжал смотреть всех тех же ребят на Ютубе на общих началах. Сейчас поддерживаю пару русских блогеров на boosty. Добровольная подписка на и без того доступный контент — это почти буквально голосование рублём. Способ отдать что-то, действительное представляющее для тебя ценность (деньги) в знак поддержки какого-то начинания, а не в обмен на товар. Это, на мой взгляд, самый честный индикатор: человеку что-то нужно/нравится, если он готов за это платить. А уж если готов платить даже при условной возможности не платить — значит очень нравится. #web

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #2bitq

当前筛选 #2bitq清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #9516 · 13.02.2026 г., 15:23

🌟Tencent сжали 1.8B модель в 2 бита: 600 МБ веса и Dual-CoT на борту. Tencent Hunyuan выкатили open-source решение для тех, кто хочет запускать LLM локально на кофеварке. HY-1.8B-2Bit - модель, которую утрамбовали так плотно, что она занимает меньше места, чем многие современные мобильные приложения. Модель пилили методом Quantization-Aware Training, который в отличие от PTQ, позволяет адаптироваться к низкой разрядности весов еще на этапе тренировки. За основу взяли backbone Hunyuan-1.8B-Instruct и жестко сжали веса до 2 бит. При этом эффективный размер в памяти получился эквивалентен модели на 300М параметров, а физический вес получился всего 600 МБ. Что самое ценное - сохранили фичу Dual-CoT: модель умеет переключаться между быстрым мышлением для простых тасков и глубоким long-CoT для сложных. 🟡Бенчмарки 🟢По сравнению с fp16-учителем (1.8B), деградация метрик всего ~4%. Это очень мало для 2-битного квантования. 🟢Разница в точности на сравнении с INT4 ничтожна - 0.13%, хотя весит модель в 2 раза меньше. 🟢Если взять плотную модель на 0.5B параметров, то HY-1.8B-2Bit обходит ее в среднем на 16-17%. На GSM8K разрыв вообще дикий: +22.29%. 🟢Prefill ускорился в 3-8 раз, генерация токенов - в 2-3 раза на поддерживаемом железе. 🟡Жирный нюанс Текущая реализация требует поддержки инструкций Arm SME2. Это значит, что вся эта красота заведется только на Apple M4 и MediaTek Dimensity 9500. Если у вас M1/M2 или Snapdragon прошлых поколений - пока мимо. Разработчики обещают подвезти Neon kernel позже. Кстати, GGUF тоже есть, так что если под рукой есть M4 - можно тестить. Остальным остается ждать оптимизации под старые инструкции. 🟡Модель 🟡GGUF 🟡Техотчет 🖥GitHub @ai_machinelearning_big_data #AI#ML#SLM#2bitQ#Tencent