TGINSIGHT SIMILAR POSTS
Изходен канал @clockstackwheels · Post #835 · 10.06
Вы наверняка уже видели ролики и статьи про Apple Vision Pro: сейчас о них судачит весь интернет. Супер дорогие очки дополненной реальности, которые Эпл начнет продавать в следующем году. Надеваешь очки, и у тебя посреди комнаты начинают летать экраны, на которых можно кино смотреть, интернет читать, с людьми переговариваться и так далее. При всей моей нелюбви к Эплу глупо отрицать, что они задают тренды на рынке. Эплу удалось создать из своих покупателей такую преданную религиозную общину, что многие другие компании пытаются копировать те же решения, чтобы получить хотя бы примерно такие же цифры продаж. Понятно, что слепое копирование выглядит не слишком умным, но в каком-то ограниченном пространстве это работает. Иногда тренды, которые задает Эпл, очень удачные и переворачивают индустрию. Так было с первыми iPhone, и, в частности, двумя ключевыми вещами: емкостным экраном и магазином приложений. Именно эти две фундаментальные вещи образовали текущий рынок по-настоящему классных смартфонов. Иногда тренды тупые, и копируют их совершенно бездумно. Так было с монобровью. Она подарила нам одно-два поколения бестолковых уродских аппаратов от всех топовых компаний, пока они, наконец, не отказались от этой идеи (по крайней мере на флагманах) в пользу камеры-точки или даже подэкранной. Так вот, независимо от того, насколько реально люди будут покупать AR-очки за $3500, я почти уверен, что это новый тренд, и в ближайшие пару лет бы будем то и дело видеть очередное устройство на эту тему. Ждем от Xiaomi. #gadgets
Hashtags
Търсене: #mlm
@profcen · Post #383 · 16.08.2023 г., 09:03
Поэтому вести борьбу с купцами счастья нужно неустанно и постоянно, как за зарплаты и нормальные условия труда. Победа на этом фронте сулит значительные успехи и на остальных. Не слушайте игры нарядных дудочников. Думайте. Боритесь. @profcen_bot #инсайд#мошенничество#mlm#сетевоймаркетинг
@ai_machinelearning_big_data · Post #8817 · 20.10.2025 г., 20:41
⚡️BERT is just a Single Text Diffusion Step Любопытны пост, где автор объяснил на примере очень простую и очевидную, но мощную идею. Он заметил, что то, что мы называем диффузией текста, на самом деле - это просто обобщённая версия классического обучения BERT. Как работаетBERT? В BERT модель берёт текст и маскирует часть слов, а потом учится угадывать, какие слова были скрыты. В диффузии происходит почти то же самое, только шагов больше: на каждом шаге модель немного «портит» текст (добавляет шум), а затем восстанавливает его, всё меньше и меньше теряя смысл, пока не соберёт финальный чистый текст. То есть BERT делает один шаг очистки - угадывает замаскированные слова. А диффузионная модель делает много таких шагов подряд, постепенно превращая случайный набор токенов в осмысленный текст. Барри дообучил RoBERTa, чтобы показать это на практике - и получил настоящий текстовый диффузионный генератор. В примере: - Используется RoBER (улучшенная версия модели BERT,) и датасет WikiText. - На каждом шаге часть токенов заменяется на <MASK>, модель восстанавливает их, потом снова маскирует — и так несколько раз. - После нескольких итераций модель способна генерировать связный текст, даже без автогенеративного декодера (как у GPT). 📈Результаты - Модель генерирует осмысленный текст, хотя и не идеально связный. - Качество улучшалось по мере добавления шагов диффузии. - По времени генерации RoBERTa Diffusion была немного медленнее, чем GPT-2 (~13 сек против 9 сек), но архитектура осталась полностью encoder-only. Автор упоминает, что позже наткнулся на работу DiffusionBERT, где идею реализовали глубже и подтвердили результатами. Главная мысль: BERT можно считать одноступенчатой версией текстовой диффузии. Если добавить больше шагов, то vs получаем диффузионный генератор текста. Если BERT - это один шаг диффузии, то будущее может принадлежать моделям, совмещающим "понимание" и "генерацию" текста в одном процессе. https://nathan.rs/posts/roberta-diffusion/ @ai_machinelearning_big_data #AI#Diffusion#RoBERTa#BERT#LanguageModel#MLM#Research