Намери подобно съдържание

Изходен канал @clockstackwheels · Post #61 · 1.07

Посмотрел дебаты Панчина и Редько, где первый топил за вакцинацию, а второй — против конкретно вакцинации от ковида в текущий момент. Панчина я знаю давно (не лично, хотя видел его пару раз), и он говорит непротиворечивые вещи, которые согласуются с моими собственными наблюдениями за тем, как устроен мир. При этом его оппонент держался не слишком уверенно, не обладал стройной речью, говорил сбивчиво и путался, использовал терминологию в стиле «Вы всё врёте» и упомянул, что смотрит Соловьева. Ну и оговорка (?) про «лохокост» тоже очень резанула уши. Для меня исход дебатов очевиден: победа Панчина с большим отрывом Точнее даже фактически дебаты толком не состоялись, потому что хорошей дискуссии я не увидел. Но, если посмотреть объективно, то оппоненты говорили о вещах, в которых я не разбираюсь, и истинность/ложность многих посылов гарантированно подтвердить не могу. То есть чисто гипотетически возможно, что это не тёмный Редько нёс ерунду, а на самом деле языкастый Панчин заговорил всем зубы. Потом я подумал, а существует ли способ, не обучая меня 20 лет на врача, относительно надежно дать мне возможность разобраться, где тут правда? И, пожалуй, ответ нет. Более того — даже обучая, всё равно нет. А проблема тут в том, что люди отрицают даже вполне объективные вещи, если только их нельзя строго научно обосновать. Если можно -- тоже отрицают, но с такими людьми можно ни в какие дебаты не вступать. А вот если не было проведено исследование о том, что вода мокрая, то спуск по дереву абстракции до этого аргумента всё равно не позволит надёжно свой постулат подтвердить и оппоненту и слушателям. А есть исследование, что вода мокрая? Можно ли доверять этому исследованию? А мне знакомый гидролог сказал, что не мокрая. И у моего друга не мокрая. И вообще, вы же понимаете, лёд это тоже вода, а он не совсем мокрый. Я это на своей сфере остро чувствую. В чатах разработчиков, допустим, теоретически все являются компетентными специалистами, а по факту всё равно всерьёз возникают заявления о том, что, например, система типов в JavaScript -- логичная и предсказуемая, что абстрактные классы не нужны, что не обязательно ставить пробелы вокруг операторов, что отсутствие array-helper'ов в Go это благо и так далее. Впрочем, в комментариях под дебатами на ютубе справедливо раскритиковали, что ведущей следовало сделать хотя бы минимальный факт-чекинг по результатам. А то дебатирующие просто обвиняли друг друга во лжи, и в общем случае произвольному слушателю надёжно понять, кто из них прав, было нельзя. #life

Hashtags

#life

Резултати

Намерени 1 подобни публикации

Търсене: #bitdance

当前筛选 #bitdance清除筛选

Machinelearning

@ai_machinelearning_big_data · Post #9534 · 17.02.2026 г., 09:02

Намери подобни Прегледай

🌟BitDance: авторегрессионная генерация изображений с бинарными токенами. Генеративные модели делятся на 2 лагеря: диффузионные и авторегрессионные. Вторые концептуально ближе к LLM - генерируют изображение токен за токеном, как текст. Проблема в том, что это очень медленно, а качество проигрывает диффузии. BitDance - экспериментальная 14B AR-модель, которая пытается решить оба этих вопроса разом. Этим проектом группа китайских рисёчеров показала, что правильный бинарный токенизатор + diffusion head + параллельный патчинг закрывает большинство претензий. Они локализовали 3 проблемы дискретных AR-моделей и закрыли каждую отдельным решением. 🟡Плохая реконструкция токенизатора Вместо VQ-кодбука тут используется бинарный токенизатор на основе квантования с групповым разбиением каналов. Словарь вырастает до 2²⁵⁶ (для сравнения: у Cosmos - 65536), при этом модель держит PSNR 25.29 против 24.81 у непрерывного DC-AE, то есть бинарные токены реконструируют изображение лучше, чем VAE у SANA. 🟡Нестабильный сэмплинг А как вообще выбирать из словаря в 2²⁵⁶ вариантов? Обучить классификатор на все возможные токены тут не вариант: такой слой не поместится ни в какую память. В качестве решения - прикрутили diffusion head, которая моделирует биты на непрерывном гиперкубе. То есть, модель предсказывает структуру битов через velocity-matching, что и позволяет сэмплить из гигантского пространства состояний. 🟡Скорость AR генерирует по одному токену за шаг. BitDance за один шаг выдает сразу 64 токена (или 16), при этом модель понимает, как они связаны между собой внутри этого блока. Громко заявленный результат: 30x ускорение относительно next-token AR при сопоставимом качестве. об этом в конце 🟡Тесты На мелкой версии ImageNet BitDance-H достигает FID 1.24 (лучший результат среди AR-моделей, наравне с xAR-H). На DPG-Bench (text-to-image) полноценная BitDance набирает 88.28 - это выше FLUX.1-Dev, SD3, Janus-Pro, но уступает Seedream 3.0 и Qwen-Image. В релизе 2 версии 14B модели, с предикшеном на 16 и 64 токена и макс. разрешением 1Мpx. Остается вопрос: насколько бинарный токенизатор + diffusion head добавляет латентности на каждом шаге, даже если самих шагов стало меньше из-за патчинга. 30x по скорости - это сравнение не с диффузионными моделями, которые уже умеют генерировать за 4–8 шагов. 14B - это не про "взял и запустил". Есть конечно версии на ImageNet с разрешением 256х256 для воспроизведения эксперимента, но не за этим мы сюда пришли. 📌Лицензирование: Apache 2.0 License. 🟡Страница проекта 🟡Arxiv 🟡Модель 🟡Demo 🖥GitHub @ai_machinelearning_big_data #AI#ML#AR#T2I#BitDance

Hashtags

#ai #ml #ar #t2i #bitdance