TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #55 · 26.06

Посмотрел несколько видео с канала "Все работы хороши" — там либо сам автор либо его агент устраивается на работу во всякие Пятёрочки, Макдаки, Фикспрайсы, а затем в подробностях рассказывает изнутри, что на самом деле происходит. Меня не пугает какая-то тяжёлая черновая работа. "Дуй на завод" для меня не шутка — мы с другом месяц проработали на заводе прямо в цеху в качестве практики. Но меня очень удивляет, что люди добровольно соглашаются на работу, где их за людей не считают: общаются грубо и неуважительно, систематически дают не связанные с рабочими обязанностями поручения, унижают, ни во что не ставят их права и личные потребности. Да, зарплаты одинаково высокими везде не могут быть, но человеческое отношение то хотя бы на элементарном уровне должно присутствовать? Окей, понятно, что число соискателей на эти работы, вероятно, много выше, чем количество предложений на рынка труда. Поэтому компании могут не запариваться с такой ерундой, как уважение к сотруднику. Интересно, что это только до тех пор, пока оно не становится выгодным. В айти, если начальник будет посылать программиста за сигами, тот просто уйдёт в другое место, бизнес потеряет работника и, как следствие, деньги. Но как только нормальное общение становится добровольным выбором, все эти системы идут по пути наименьшего сопротивления. Ещё показательно, что на канале только неквалифицированный труд. Представьте себе, если бы какой-то программист, знающий несколько языков (как я, хе-хе), устраивался бы на работы во всякие Яндексы и ВКонтакты, а потом рассказывал бы, как оно изнутри. Не о закрытых NDA вещах, конечно, а в целом о структуре: о бестолковых менеджерах, заставляющих делать хрень, об элементарных фичах, проходящих энтерпрайз-дебри по полгода, о добровольно-принудительных переработках и так далее. Была бы бомба — миллионы просмотров, геометрический рост популярности, Дудь курит в сторонке. Но это всё не реалистично. Во-первых, даже очень крутой спец не всегда пройдёт собеседование: где-то по стеку не подойдёт, где-то по софтскиллам не понравится, где-то ещё что-то. Во-вторых, для самого программиста это карьерное самоубийство, поэтому нужно уже быть богатым человеком с пассивным источником дохода. В-третьих, корпорации более внимательны к сохранению своей тайны и могут найти способ засудить даже без прямого нарушения NDA. И почти в любой квалифицированной сфере будет так: сложно, репутационно-дорого, много издержек. Наверное, в этом и отличие. Когда-то давно я высказывал такое видение — лично у меня чья-то работа вызывает тем больше уважения, чем дольше лично мне с нуля прокачаться до уровня хотя бы прохождения собеседования или другой начальной стадии (получения первого клиента, если речь про бизнес или самозанятость). Так что, можете прикинуть про свою работу тоже — как много обучения требуется для её выполнения. Если мало или совсем не требуется — может, это повод подумать. #life

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #roberta

当前筛选 #roberta清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8817 · 20.10.2025 г., 20:41

⚡️BERT is just a Single Text Diffusion Step Любопытны пост, где автор объяснил на примере очень простую и очевидную, но мощную идею. Он заметил, что то, что мы называем диффузией текста, на самом деле - это просто обобщённая версия классического обучения BERT. Как работаетBERT? В BERT модель берёт текст и маскирует часть слов, а потом учится угадывать, какие слова были скрыты. В диффузии происходит почти то же самое, только шагов больше: на каждом шаге модель немного «портит» текст (добавляет шум), а затем восстанавливает его, всё меньше и меньше теряя смысл, пока не соберёт финальный чистый текст. То есть BERT делает один шаг очистки - угадывает замаскированные слова. А диффузионная модель делает много таких шагов подряд, постепенно превращая случайный набор токенов в осмысленный текст. Барри дообучил RoBERTa, чтобы показать это на практике - и получил настоящий текстовый диффузионный генератор. В примере: - Используется RoBER (улучшенная версия модели BERT,) и датасет WikiText. - На каждом шаге часть токенов заменяется на <MASK>, модель восстанавливает их, потом снова маскирует — и так несколько раз. - После нескольких итераций модель способна генерировать связный текст, даже без автогенеративного декодера (как у GPT). 📈Результаты - Модель генерирует осмысленный текст, хотя и не идеально связный. - Качество улучшалось по мере добавления шагов диффузии. - По времени генерации RoBERTa Diffusion была немного медленнее, чем GPT-2 (~13 сек против 9 сек), но архитектура осталась полностью encoder-only. Автор упоминает, что позже наткнулся на работу DiffusionBERT, где идею реализовали глубже и подтвердили результатами. Главная мысль: BERT можно считать одноступенчатой версией текстовой диффузии. Если добавить больше шагов, то vs получаем диффузионный генератор текста. Если BERT - это один шаг диффузии, то будущее может принадлежать моделям, совмещающим "понимание" и "генерацию" текста в одном процессе. https://nathan.rs/posts/roberta-diffusion/ @ai_machinelearning_big_data #AI#Diffusion#RoBERTa#BERT#LanguageModel#MLM#Research