TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #55 · 26.06

Посмотрел несколько видео с канала "Все работы хороши" — там либо сам автор либо его агент устраивается на работу во всякие Пятёрочки, Макдаки, Фикспрайсы, а затем в подробностях рассказывает изнутри, что на самом деле происходит. Меня не пугает какая-то тяжёлая черновая работа. "Дуй на завод" для меня не шутка — мы с другом месяц проработали на заводе прямо в цеху в качестве практики. Но меня очень удивляет, что люди добровольно соглашаются на работу, где их за людей не считают: общаются грубо и неуважительно, систематически дают не связанные с рабочими обязанностями поручения, унижают, ни во что не ставят их права и личные потребности. Да, зарплаты одинаково высокими везде не могут быть, но человеческое отношение то хотя бы на элементарном уровне должно присутствовать? Окей, понятно, что число соискателей на эти работы, вероятно, много выше, чем количество предложений на рынка труда. Поэтому компании могут не запариваться с такой ерундой, как уважение к сотруднику. Интересно, что это только до тех пор, пока оно не становится выгодным. В айти, если начальник будет посылать программиста за сигами, тот просто уйдёт в другое место, бизнес потеряет работника и, как следствие, деньги. Но как только нормальное общение становится добровольным выбором, все эти системы идут по пути наименьшего сопротивления. Ещё показательно, что на канале только неквалифицированный труд. Представьте себе, если бы какой-то программист, знающий несколько языков (как я, хе-хе), устраивался бы на работы во всякие Яндексы и ВКонтакты, а потом рассказывал бы, как оно изнутри. Не о закрытых NDA вещах, конечно, а в целом о структуре: о бестолковых менеджерах, заставляющих делать хрень, об элементарных фичах, проходящих энтерпрайз-дебри по полгода, о добровольно-принудительных переработках и так далее. Была бы бомба — миллионы просмотров, геометрический рост популярности, Дудь курит в сторонке. Но это всё не реалистично. Во-первых, даже очень крутой спец не всегда пройдёт собеседование: где-то по стеку не подойдёт, где-то по софтскиллам не понравится, где-то ещё что-то. Во-вторых, для самого программиста это карьерное самоубийство, поэтому нужно уже быть богатым человеком с пассивным источником дохода. В-третьих, корпорации более внимательны к сохранению своей тайны и могут найти способ засудить даже без прямого нарушения NDA. И почти в любой квалифицированной сфере будет так: сложно, репутационно-дорого, много издержек. Наверное, в этом и отличие. Когда-то давно я высказывал такое видение — лично у меня чья-то работа вызывает тем больше уважения, чем дольше лично мне с нуля прокачаться до уровня хотя бы прохождения собеседования или другой начальной стадии (получения первого клиента, если речь про бизнес или самозанятость). Так что, можете прикинуть про свою работу тоже — как много обучения требуется для её выполнения. Если мало или совсем не требуется — может, это повод подумать. #life

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #2bitq

当前筛选 #2bitq清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #9516 · 13.02.2026 г., 15:23

🌟Tencent сжали 1.8B модель в 2 бита: 600 МБ веса и Dual-CoT на борту. Tencent Hunyuan выкатили open-source решение для тех, кто хочет запускать LLM локально на кофеварке. HY-1.8B-2Bit - модель, которую утрамбовали так плотно, что она занимает меньше места, чем многие современные мобильные приложения. Модель пилили методом Quantization-Aware Training, который в отличие от PTQ, позволяет адаптироваться к низкой разрядности весов еще на этапе тренировки. За основу взяли backbone Hunyuan-1.8B-Instruct и жестко сжали веса до 2 бит. При этом эффективный размер в памяти получился эквивалентен модели на 300М параметров, а физический вес получился всего 600 МБ. Что самое ценное - сохранили фичу Dual-CoT: модель умеет переключаться между быстрым мышлением для простых тасков и глубоким long-CoT для сложных. 🟡Бенчмарки 🟢По сравнению с fp16-учителем (1.8B), деградация метрик всего ~4%. Это очень мало для 2-битного квантования. 🟢Разница в точности на сравнении с INT4 ничтожна - 0.13%, хотя весит модель в 2 раза меньше. 🟢Если взять плотную модель на 0.5B параметров, то HY-1.8B-2Bit обходит ее в среднем на 16-17%. На GSM8K разрыв вообще дикий: +22.29%. 🟢Prefill ускорился в 3-8 раз, генерация токенов - в 2-3 раза на поддерживаемом железе. 🟡Жирный нюанс Текущая реализация требует поддержки инструкций Arm SME2. Это значит, что вся эта красота заведется только на Apple M4 и MediaTek Dimensity 9500. Если у вас M1/M2 или Snapdragon прошлых поколений - пока мимо. Разработчики обещают подвезти Neon kernel позже. Кстати, GGUF тоже есть, так что если под рукой есть M4 - можно тестить. Остальным остается ждать оптимизации под старые инструкции. 🟡Модель 🟡GGUF 🟡Техотчет 🖥GitHub @ai_machinelearning_big_data #AI#ML#SLM#2bitQ#Tencent