TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #951 · 9.02

У нас в Росатоме сотрудникам иногда предлагают ездить смотреть на разные предприятия госкорпорации. Вот удалось скататься за счёт компании в Мурманск, попасть на Атомфлот и на ледокол-музей «Ленин». Мурманск сам по себе показался мне особенно примечательным своим рельефом: дворы на разном уровне и для перемещения от дома к дому нужно то и дело ходить по лестницам. В целом же конечно после Петербурга он смотрится простовато, а некоторые дома в глубине откровенно страшные и с точки зрения жителя столиц выглядят чуть ли не аварийно. Здание аэропорта вообще похоже на среднестатистическую коробку государственной конторы где-нибудь во дворах. Однако, ведётся строительство нового аэропорта. И, вообще, приятно удивляет сам факт, что в таких тяжёлых условиях есть вполне современный развитый город, в котором присутствует всё, к чему мы привыкли в плане сервисов и комфорта: от топовых отелей до Яндекс Такси. Правда, я жил в квартире, потому что отели в ноль раскупили китайцы. Говорят, у них есть такое поверье, что в дни зачатия ребёнка нужно увидеть Полярное Сияние, вот они и летят в Мурманск толпами. На Атомфлоте почти ничего нельзя было фотографировать. В доке в этот момент стоял красивый ледокол «Сибирь» из новой универсальной серии проекта 22220. Эта машина с двумя реакторами по 175 МВт может менять свою осадку и одинаково подходит как для ведения судов по Северному Морскому Пути, так и для работы в крупных замерзающих зимой реках, таких, как Енисей и Обь. Зато есть снимок из центра морских операций, куда выводят интерактивную карту местоположения всех ледоколов и спутниковый анализ плотности льда во всём арктическом регионе. А ещё глянули на тренажёры, за которыми учатся и сдают экзамены операторы ядерной установки. На фото тренажёр, который дублирует пульт довольно старого ледокола 70-х годов, но ещё в ходу; а у новых дисплеи и трекпады везде. Так вот, работа этих операторов похожа на то, что нам показывали в сериале «Звёздный Путь», когда капитан просит машинное отделение дать мощности на варп-ядро, чтобы сделать быстрый скачок, и инженеры начинают быстро перебирать кнопки, а индикаторы менять своё состояние. Ледокол «Ленин» это первое в мире надводное атомное судно. Сейчас он снят с эксплуатации и превращён в музей. В то время для его работы требовался персонал порядка 250 человек. У современных ледоколов эта цифра около 50, хотя они больше, сложнее и мощнее, потому что много работы выполняет теперь автоматика. Ещё два интересных факта: 1. Ледоколу часто нужно рывками с разбегу преодолевать какой-то особо сложный участок, и именно поэтому установка у него электрическая, а не прямой привод от турбин реактора. Электричество даёт большую динамику. 2. Если ледокол застрял во льдах, у него есть специальная система изменения центра тяжести, позволяющая ему раскачиваться вперёд-назад и влево-вправо, чтобы чуть-чуть освободиться, а дальше уже рывками выбраться. В общем и целом понравилось. Я бы и сам с удовольствием съездил, а тут ещё и на работе предложили. Но в Мурманске и вообще за Полярным Кругом ещё много всего можно посмотреть, это уже в личном порядке надо будет. #travel#life

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #2bitq

当前筛选 #2bitq清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #9516 · 13.02.2026 г., 15:23

🌟Tencent сжали 1.8B модель в 2 бита: 600 МБ веса и Dual-CoT на борту. Tencent Hunyuan выкатили open-source решение для тех, кто хочет запускать LLM локально на кофеварке. HY-1.8B-2Bit - модель, которую утрамбовали так плотно, что она занимает меньше места, чем многие современные мобильные приложения. Модель пилили методом Quantization-Aware Training, который в отличие от PTQ, позволяет адаптироваться к низкой разрядности весов еще на этапе тренировки. За основу взяли backbone Hunyuan-1.8B-Instruct и жестко сжали веса до 2 бит. При этом эффективный размер в памяти получился эквивалентен модели на 300М параметров, а физический вес получился всего 600 МБ. Что самое ценное - сохранили фичу Dual-CoT: модель умеет переключаться между быстрым мышлением для простых тасков и глубоким long-CoT для сложных. 🟡Бенчмарки 🟢По сравнению с fp16-учителем (1.8B), деградация метрик всего ~4%. Это очень мало для 2-битного квантования. 🟢Разница в точности на сравнении с INT4 ничтожна - 0.13%, хотя весит модель в 2 раза меньше. 🟢Если взять плотную модель на 0.5B параметров, то HY-1.8B-2Bit обходит ее в среднем на 16-17%. На GSM8K разрыв вообще дикий: +22.29%. 🟢Prefill ускорился в 3-8 раз, генерация токенов - в 2-3 раза на поддерживаемом железе. 🟡Жирный нюанс Текущая реализация требует поддержки инструкций Arm SME2. Это значит, что вся эта красота заведется только на Apple M4 и MediaTek Dimensity 9500. Если у вас M1/M2 или Snapdragon прошлых поколений - пока мимо. Разработчики обещают подвезти Neon kernel позже. Кстати, GGUF тоже есть, так что если под рукой есть M4 - можно тестить. Остальным остается ждать оптимизации под старые инструкции. 🟡Модель 🟡GGUF 🟡Техотчет 🖥GitHub @ai_machinelearning_big_data #AI#ML#SLM#2bitQ#Tencent