TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #356 · 24.05

Некоторые нашли ответ на вчерашнюю загадку: это последовательность животных из песни What Does The Fox Say. И это породило интересное обсуждение здесь, в Телеграме. Часть людей никогда не слышали об этой песне, что лично меня очень сильно удивило. В моём информационном пространстве она является бесспорным масс-культурным феноменом, поэтому знакомство с ней не зависит, например, от ваших музыкальных вкусов. Вам достаточно просто заходить в интернет. По аналогии с, например, Gangnam Style или Harlem Shake: для меня это вещи, которые невозможно было не застать, если вы в принципе пользовались интернетом в период их популярности. Но, как выяснилось, это совершенно не так, и люди действительно живут немножко в разных информационных слоях. Вот я и задумался: от чего это зависит? Какие источники нужно читать или не читать, чтобы ни разу не наткнуться на какой-то относительно популярный феномен, не обсудить его ни с кем из знакомых, не увидеть в ленте ни одной из соцсетей? В моих компаниях друзей, например, очень часто шутят с отсылками к масс-культуре, поэтому буквально невозможно не знать чего-то известного. Я просто не мог ничего сделать, чтобы пропустить какой-нибудь Ice Bucket Challenge, The Dress или Coffin Dance. Но как-то люди пропускают (наверняка среди читающих это есть те, кто не знает о чём-нибудь из перечисленного). И другой вопрос: что отличает масс-культурный феномен от просто очень популярной вещи? В комментариях мне справедливо заметили, что если мы откроем в Википедии топ популярных видео на YouTube, там будут ролики с миллиардами просмотров, о которых мы и не слышали. Например, я никогда не видел и не слышал детский стишок «Johny Johny Yes Papa», а ведь это топ-3 видео на YouTube за всю историю, с поразительными 6 миллиардами просмотров! Ну ладно, допустим, видео для детей нельзя считать, потому что современные родители их просто ставят младенцам по 100 раз в день, чтобы отвлечь и чем-то занять. Но, например, у песни Джастина Бибера «Sorry» более 3.5 млрд просмотров, а я её никогда не слышал. На мой взгляд произведение становится массовым, когда выходит за свои первоначальные границы. Например, если о песне знают не только те, кто в принципе слушает такую музыку и этого исполнителя. А особенно если песня вообще выходит за рамки музыкальной сферы. Например, по песне про лису писали научпоп-статьи о том, какой звук издают лисы. Челлендж Ice Bucket выполняли люди, которые никакого отношения не имеют к медицине или благотворительности. Танец Harlem Shake исполняли люди в военных частях, офисах, в Кембриджском университете. Для меня именно проникновение в нейтральную среду — основной признак. #web

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #bitdance

当前筛选 #bitdance清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #9534 · 17.02.2026 г., 09:02

🌟BitDance: авторегрессионная генерация изображений с бинарными токенами. Генеративные модели делятся на 2 лагеря: диффузионные и авторегрессионные. Вторые концептуально ближе к LLM - генерируют изображение токен за токеном, как текст. Проблема в том, что это очень медленно, а качество проигрывает диффузии. BitDance - экспериментальная 14B AR-модель, которая пытается решить оба этих вопроса разом. Этим проектом группа китайских рисёчеров показала, что правильный бинарный токенизатор + diffusion head + параллельный патчинг закрывает большинство претензий. Они локализовали 3 проблемы дискретных AR-моделей и закрыли каждую отдельным решением. 🟡Плохая реконструкция токенизатора Вместо VQ-кодбука тут используется бинарный токенизатор на основе квантования с групповым разбиением каналов. Словарь вырастает до 2²⁵⁶ (для сравнения: у Cosmos - 65536), при этом модель держит PSNR 25.29 против 24.81 у непрерывного DC-AE, то есть бинарные токены реконструируют изображение лучше, чем VAE у SANA. 🟡Нестабильный сэмплинг А как вообще выбирать из словаря в 2²⁵⁶ вариантов? Обучить классификатор на все возможные токены тут не вариант: такой слой не поместится ни в какую память. В качестве решения - прикрутили diffusion head, которая моделирует биты на непрерывном гиперкубе. То есть, модель предсказывает структуру битов через velocity-matching, что и позволяет сэмплить из гигантского пространства состояний. 🟡Скорость AR генерирует по одному токену за шаг. BitDance за один шаг выдает сразу 64 токена (или 16), при этом модель понимает, как они связаны между собой внутри этого блока. Громко заявленный результат: 30x ускорение относительно next-token AR при сопоставимом качестве. об этом в конце 🟡Тесты На мелкой версии ImageNet BitDance-H достигает FID 1.24 (лучший результат среди AR-моделей, наравне с xAR-H). На DPG-Bench (text-to-image) полноценная BitDance набирает 88.28 - это выше FLUX.1-Dev, SD3, Janus-Pro, но уступает Seedream 3.0 и Qwen-Image. В релизе 2 версии 14B модели, с предикшеном на 16 и 64 токена и макс. разрешением 1Мpx. Остается вопрос: насколько бинарный токенизатор + diffusion head добавляет латентности на каждом шаге, даже если самих шагов стало меньше из-за патчинга. 30x по скорости - это сравнение не с диффузионными моделями, которые уже умеют генерировать за 4–8 шагов. 14B - это не про "взял и запустил". Есть конечно версии на ImageNet с разрешением 256х256 для воспроизведения эксперимента, но не за этим мы сюда пришли. 📌Лицензирование: Apache 2.0 License. 🟡Страница проекта 🟡Arxiv 🟡Модель 🟡Demo 🖥GitHub @ai_machinelearning_big_data #AI#ML#AR#T2I#BitDance