Намери подобно съдържание

Изходен канал @clockstackwheels · Post #755 · 2.02

Досмотрел Mr. Robot — сериал про хакера, который борется с корпорациями. Я начинал когда-то давно, несколько лет назад. Но потом бросил, потому что мне показалось, что от хакерства авторы слишком далеко ушли в другие темы. Однако недавно возобновил и не пожалел. Классный закрученный сюжет, своеобразная концовка (хотя на мой взгляд закончить стоило на три серии раньше), интересные персонажи, в том числе второстепенные. Но самое главное: это, кажется, единственный в своём роде фильм, где хакерство показано по-настоящему, а не как обычно в кино. Ну, вы знаете, любят авторы фильмов изображать бешено стучащего по клавиатуре чувака, а на экране при этом какой-нибудь случайный HTML. Это ещё в лучшем случае. Бывают прям супер кринжовые вещи, не просто не соответствующие действительности, но и с трудом поддающиеся описанию с точки зрения здравого смысла. Причём особенно нелепо это как раз смотрится в фильмах и сериалах про хакеров (Пароль "Рыба-меч", CSI: Cyber, Person Of Interest итд, много их). Предыдущее исключение, которое я помню, это Silicon Valley — там всё весьма похоже на действительность, и есть даже специфические шутки, понятные только программистам. Но мир всё равно вымышленный и несколько гротескный. "Мистер Робот" пошёл существенно дальше. Консультанты по айти у этого сериала сделали свою работу превосходно — практически всё, что показано — это реально существующие методы взлома. Персонажи делают осмысленные вещи, которые сработали бы и в жизни, а на экранах выводится адекватный код, никсовая консоль, логи и прочее подобное. Показан и прямой взлом через поиск уязвимостей, и социальная инженерия, и взлом железа, подделка прошивки, эксплойты, руткиты, брутфорс... Выходит, всё это время можно было сделать фильм с нормальным программированием, и при этом сохранить его популярным и интересным для зрителя (рейтинг на IMDB 8.6). Кто бы мог подумать, почему-то раньше никто особо не пытался, даже обидно. #fiction

Hashtags

#fiction

Резултати

Намерени 1 подобни публикации

Търсене: #roberta

当前筛选 #roberta清除筛选

Machinelearning

@ai_machinelearning_big_data · Post #8817 · 20.10.2025 г., 20:41

Намери подобни Прегледай

⚡️BERT is just a Single Text Diffusion Step Любопытны пост, где автор объяснил на примере очень простую и очевидную, но мощную идею. Он заметил, что то, что мы называем диффузией текста, на самом деле - это просто обобщённая версия классического обучения BERT. Как работаетBERT? В BERT модель берёт текст и маскирует часть слов, а потом учится угадывать, какие слова были скрыты. В диффузии происходит почти то же самое, только шагов больше: на каждом шаге модель немного «портит» текст (добавляет шум), а затем восстанавливает его, всё меньше и меньше теряя смысл, пока не соберёт финальный чистый текст. То есть BERT делает один шаг очистки - угадывает замаскированные слова. А диффузионная модель делает много таких шагов подряд, постепенно превращая случайный набор токенов в осмысленный текст. Барри дообучил RoBERTa, чтобы показать это на практике - и получил настоящий текстовый диффузионный генератор. В примере: - Используется RoBER (улучшенная версия модели BERT,) и датасет WikiText. - На каждом шаге часть токенов заменяется на <MASK>, модель восстанавливает их, потом снова маскирует — и так несколько раз. - После нескольких итераций модель способна генерировать связный текст, даже без автогенеративного декодера (как у GPT). 📈Результаты - Модель генерирует осмысленный текст, хотя и не идеально связный. - Качество улучшалось по мере добавления шагов диффузии. - По времени генерации RoBERTa Diffusion была немного медленнее, чем GPT-2 (~13 сек против 9 сек), но архитектура осталась полностью encoder-only. Автор упоминает, что позже наткнулся на работу DiffusionBERT, где идею реализовали глубже и подтвердили результатами. Главная мысль: BERT можно считать одноступенчатой версией текстовой диффузии. Если добавить больше шагов, то vs получаем диффузионный генератор текста. Если BERT - это один шаг диффузии, то будущее может принадлежать моделям, совмещающим "понимание" и "генерацию" текста в одном процессе. https://nathan.rs/posts/roberta-diffusion/ @ai_machinelearning_big_data #AI#Diffusion#RoBERTa#BERT#LanguageModel#MLM#Research

Hashtags

#ai #diffusion #roberta #bert #languagemodel #mlm #research