TGINSIGHT SIMILAR POSTS
Изходен канал @clockstackwheels · Post #277 · 31.03
Сайты "Комитета" VC, DTF, TJ ввели функцию создания блогов. Я уже много лет пишу о том, что в рунете остро не хватает ресурса для текстового контента, каким когда-то был ЖЖ. Многие авторы размываются между соцсетями, но там, как правило, либо аудитория не годится для длинных качественных текстов (ВК, Дзен), либо инструменты самой сети очень слабо подходят под ведение (Instagram) и развитие (Telegram) текстового блога. Есть Хабр, однако вести там произвольный авторский блог нельзя. Всё строго тематически и даже в некотором смысле научно. Это хорошо, но это не совсем то, о чём я говорю. Некоторые считают, что в качестве такого ресурса мог бы выступать Пикабу. Но Пикабу очень сильно отодвигает внимание от автора в пользу тематики и популярности отдельных постов. Мало кому интересен "хороший автор Вася, который пишет на Пикабу". Люди туда приходят за "вот эта лента постов разных авторов, не важно, каких". И здесь Комитет сделал хороший ход. Ладно, DTF это развлекательный ресурс, подозреваю, что его аудитория в среднем молодая, и готова только к контенту на определённые темы. Что касается TJ, то изначально это был как бы сайт с новостями интернета, а потом просто сайт с новостями без чёткого направления, что привело сейчас не только к блокировке (которую, видимо, Комитет рассчитывает снять), но и критическому росту объёма политизированности и количества очагов русофобии в комментариях. А вот на VC у меня есть надежды. Я уже писал вам давно о своём весьма положительном опыте публикации там. И в целом аудитория, судя по обсуждениям, довольно взрослая и адекватная. Даже вспыхнувшую политоту потихоньку тушат именно со стороны комьюнити. Изначально это ресурс для бизнесменов, про бизнес и стартапы, поэтому можно предположить, что доля разумных людей довольно высока. Но сам я блог там не создал, хотя рука тянулась. Не хватит моего внимания уже на три места, даже если контент более менее копировать. Хотя, возможно, я по итогам ведения страницы ВК и канала тут стабилизируюсь на каких-то двух-трёх базовых темах и создам. #web
Hashtags
Търсене: #mlm
@profcen · Post #383 · 16.08.2023 г., 09:03
Поэтому вести борьбу с купцами счастья нужно неустанно и постоянно, как за зарплаты и нормальные условия труда. Победа на этом фронте сулит значительные успехи и на остальных. Не слушайте игры нарядных дудочников. Думайте. Боритесь. @profcen_bot #инсайд#мошенничество#mlm#сетевоймаркетинг
@ai_machinelearning_big_data · Post #8817 · 20.10.2025 г., 20:41
⚡️BERT is just a Single Text Diffusion Step Любопытны пост, где автор объяснил на примере очень простую и очевидную, но мощную идею. Он заметил, что то, что мы называем диффузией текста, на самом деле - это просто обобщённая версия классического обучения BERT. Как работаетBERT? В BERT модель берёт текст и маскирует часть слов, а потом учится угадывать, какие слова были скрыты. В диффузии происходит почти то же самое, только шагов больше: на каждом шаге модель немного «портит» текст (добавляет шум), а затем восстанавливает его, всё меньше и меньше теряя смысл, пока не соберёт финальный чистый текст. То есть BERT делает один шаг очистки - угадывает замаскированные слова. А диффузионная модель делает много таких шагов подряд, постепенно превращая случайный набор токенов в осмысленный текст. Барри дообучил RoBERTa, чтобы показать это на практике - и получил настоящий текстовый диффузионный генератор. В примере: - Используется RoBER (улучшенная версия модели BERT,) и датасет WikiText. - На каждом шаге часть токенов заменяется на <MASK>, модель восстанавливает их, потом снова маскирует — и так несколько раз. - После нескольких итераций модель способна генерировать связный текст, даже без автогенеративного декодера (как у GPT). 📈Результаты - Модель генерирует осмысленный текст, хотя и не идеально связный. - Качество улучшалось по мере добавления шагов диффузии. - По времени генерации RoBERTa Diffusion была немного медленнее, чем GPT-2 (~13 сек против 9 сек), но архитектура осталась полностью encoder-only. Автор упоминает, что позже наткнулся на работу DiffusionBERT, где идею реализовали глубже и подтвердили результатами. Главная мысль: BERT можно считать одноступенчатой версией текстовой диффузии. Если добавить больше шагов, то vs получаем диффузионный генератор текста. Если BERT - это один шаг диффузии, то будущее может принадлежать моделям, совмещающим "понимание" и "генерацию" текста в одном процессе. https://nathan.rs/posts/roberta-diffusion/ @ai_machinelearning_big_data #AI#Diffusion#RoBERTa#BERT#LanguageModel#MLM#Research