TGINSIGHT SIMILAR POSTS
Изходен канал @clockstackwheels · Post #584 · 4.10
Я вам давно писал про книгу "Квантовый волшебник" канадского фантаста Дерека Кюнскена. Сейчас читаю вторую часть, "Квантовый сад". Вспомнил, что еще тогда хотел рассказать об интересном описании религии у автора. По сюжету нация богатых и высокомерных людей, нуменов, создала себе генетически измененных людей-слуг. Эти слуги — там их называют "куклы" — специально сделаны размером с карлика и физически более слабыми, чем обычные люди. Но нумены встроили в кукол еще один уровень защиты от неповиновения и восстания: от запаха нуменов куклы впадали в религиозный экстаз, буквально испытывая чувство, будто общаются с богами. А при лишении возможности вдыхать запах своих богов эти слуги впадали в жесткую депрессию. Причем, экстаз они испытывали вообще при любом взаимодействии со своими хозяевами. Даже если те их били или унижали, для слуг это форма божественной милости. Казалось бы, что могло пойти не так? В итоге слуги стали замечать, что хозяева иногда причиняют друг другу вред и даже убивают себе подобных. Если не будет богов — не будет и экстаза. Так что они пришли к логичному решению: переловили всех богов и посадили в клетки. В заточении нумены начали самоубиваться, поэтому клетки делали всё меньше размером, пока человек внутри не станет полностью обездвижен, скрюченный в три погибели. Иногда ему удаляли конечности, чтобы лучше помещался. Кормили принудительно через трубочку. А чтобы было больше запаха, эти клетки ставили в жаркие помещения с вентиляторами, и ходили толпами туда молиться. При этом никакая религиозная атрибутика не исчезла: куклы всё так же считали нуменов богами и преклонялись перед ними, испытывая восторг и благоговение. Всё-таки, это было зашито в их генетике. #fiction
Hashtags
Търсене: #mlm
@profcen · Post #383 · 16.08.2023 г., 09:03
Поэтому вести борьбу с купцами счастья нужно неустанно и постоянно, как за зарплаты и нормальные условия труда. Победа на этом фронте сулит значительные успехи и на остальных. Не слушайте игры нарядных дудочников. Думайте. Боритесь. @profcen_bot #инсайд#мошенничество#mlm#сетевоймаркетинг
@ai_machinelearning_big_data · Post #8817 · 20.10.2025 г., 20:41
⚡️BERT is just a Single Text Diffusion Step Любопытны пост, где автор объяснил на примере очень простую и очевидную, но мощную идею. Он заметил, что то, что мы называем диффузией текста, на самом деле - это просто обобщённая версия классического обучения BERT. Как работаетBERT? В BERT модель берёт текст и маскирует часть слов, а потом учится угадывать, какие слова были скрыты. В диффузии происходит почти то же самое, только шагов больше: на каждом шаге модель немного «портит» текст (добавляет шум), а затем восстанавливает его, всё меньше и меньше теряя смысл, пока не соберёт финальный чистый текст. То есть BERT делает один шаг очистки - угадывает замаскированные слова. А диффузионная модель делает много таких шагов подряд, постепенно превращая случайный набор токенов в осмысленный текст. Барри дообучил RoBERTa, чтобы показать это на практике - и получил настоящий текстовый диффузионный генератор. В примере: - Используется RoBER (улучшенная версия модели BERT,) и датасет WikiText. - На каждом шаге часть токенов заменяется на <MASK>, модель восстанавливает их, потом снова маскирует — и так несколько раз. - После нескольких итераций модель способна генерировать связный текст, даже без автогенеративного декодера (как у GPT). 📈Результаты - Модель генерирует осмысленный текст, хотя и не идеально связный. - Качество улучшалось по мере добавления шагов диффузии. - По времени генерации RoBERTa Diffusion была немного медленнее, чем GPT-2 (~13 сек против 9 сек), но архитектура осталась полностью encoder-only. Автор упоминает, что позже наткнулся на работу DiffusionBERT, где идею реализовали глубже и подтвердили результатами. Главная мысль: BERT можно считать одноступенчатой версией текстовой диффузии. Если добавить больше шагов, то vs получаем диффузионный генератор текста. Если BERT - это один шаг диффузии, то будущее может принадлежать моделям, совмещающим "понимание" и "генерацию" текста в одном процессе. https://nathan.rs/posts/roberta-diffusion/ @ai_machinelearning_big_data #AI#Diffusion#RoBERTa#BERT#LanguageModel#MLM#Research