TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #997 · 18.07

Мастерская 2/4 Несколько лет назад я делал систему хранения для инструмента на домашних станках. Параллельно смотрел, что предлагает рынок, и тогда же купил пермский набор ToolBoard. Так он и лежал до лучших времён. Времена настали, у меня появилась мастерская, и я пустил набор в дело. Надо сказать, система очень хорошо продумана, чувствуются десятки тестов и подборов лучших форм. Конечно же, она во всем, кроме цены, превосходит мою домашнюю поделку. Основания с ячеистой сеткой под восьмигранные крепежи. Самих крепежей несколько видов, да и ставить их можно разными способами. Поэтому получается компактно и ровно вешать абсолютно всё: от тяжёлого перфоратора до тоненьких маленьких сверлышек. Надо сказать, сообщество 3D-печатников не стояло на месте, и с тех пор появились готовые опенсорсные проекты печатных систем под ту же задачу. Тоже очень впечатляющие. Но до ToolBoard всё ещё далеко. Моё почтение авторам, насколько там всё круто и до мелочей рассчитано. Взять хотя бы тот факт, что при соединении элементов сетки головка самореза аккурат распирает крепёжный зажим так, чтобы зафиксировать его в пазу. А крючки сделаны волнистыми не просто так — между ними можно зажимать небольшие цилиндры, такие, как стержень маленькой отвёртки. Чтобы разместить это дело, не повредив дизайн помещения, мне пришлось напечатать хитрые крепления для листа крашеной фанеры. Такие, чтобы они упирались в рейки, но прижимались винтами между ними в стену. И выдерживали десятки килограммов веса, конечно. Не могу придумать способ, как эту задачу решать без 3D-принтера. Из дерева вырезать? Комплекс станков для такой работы будет дороже принтера и займет больше места. На доске минимально типовой инструмент для любого дома + чуть-чуть специфических вещей для электрики. Тут нет многого, но основное вроде всё учёл. #diy#life#окр

Резултати

Намерени 1 подобни публикации

Търсене: #2bitq

当前筛选 #2bitq清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #9516 · 13.02.2026 г., 15:23

🌟Tencent сжали 1.8B модель в 2 бита: 600 МБ веса и Dual-CoT на борту. Tencent Hunyuan выкатили open-source решение для тех, кто хочет запускать LLM локально на кофеварке. HY-1.8B-2Bit - модель, которую утрамбовали так плотно, что она занимает меньше места, чем многие современные мобильные приложения. Модель пилили методом Quantization-Aware Training, который в отличие от PTQ, позволяет адаптироваться к низкой разрядности весов еще на этапе тренировки. За основу взяли backbone Hunyuan-1.8B-Instruct и жестко сжали веса до 2 бит. При этом эффективный размер в памяти получился эквивалентен модели на 300М параметров, а физический вес получился всего 600 МБ. Что самое ценное - сохранили фичу Dual-CoT: модель умеет переключаться между быстрым мышлением для простых тасков и глубоким long-CoT для сложных. 🟡Бенчмарки 🟢По сравнению с fp16-учителем (1.8B), деградация метрик всего ~4%. Это очень мало для 2-битного квантования. 🟢Разница в точности на сравнении с INT4 ничтожна - 0.13%, хотя весит модель в 2 раза меньше. 🟢Если взять плотную модель на 0.5B параметров, то HY-1.8B-2Bit обходит ее в среднем на 16-17%. На GSM8K разрыв вообще дикий: +22.29%. 🟢Prefill ускорился в 3-8 раз, генерация токенов - в 2-3 раза на поддерживаемом железе. 🟡Жирный нюанс Текущая реализация требует поддержки инструкций Arm SME2. Это значит, что вся эта красота заведется только на Apple M4 и MediaTek Dimensity 9500. Если у вас M1/M2 или Snapdragon прошлых поколений - пока мимо. Разработчики обещают подвезти Neon kernel позже. Кстати, GGUF тоже есть, так что если под рукой есть M4 - можно тестить. Остальным остается ждать оптимизации под старые инструкции. 🟡Модель 🟡GGUF 🟡Техотчет 🖥GitHub @ai_machinelearning_big_data #AI#ML#SLM#2bitQ#Tencent