TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #603 · 20.10

Многим наверняка известно, как наши родители иронично называли словом "недвижимость" пришедший в негодность соседский автомобиль, который мог стоять во дворе месяцами и годами, занимая одно и то же место. Он ржавел, колеса спускались, и в итоге он прирастал к своему месту. Я еще всегда думал, что формально с этим ничего не сделаешь — это ведь по идее просто припаркованная машина, нет в законе упоминания о том, как часто она должна приходить в движение. Оказывается — есть, но с оговорками. Существует понятие "разукомплектованное транспортное средство" — это такое, "у которого отсутствуют одна или несколько кузовных деталей (предусмотренные конструкцией капот, дверь, замок двери кузова или кабины, запор горловин цистерн, пробки топливного бака и (или) отсутствуют одно или несколько стекол, внешних световых приборов, колес, шин), а также сгоревшее транспортное средство." Если такое транспортное средство находится на общественной территории, владельцу направляется уведомление о необходимости его убрать, на что дается 30 дней, после чего убирается эвакуатором, а владельцу выписывают штраф до 5000 рублей. Более того — что особенно смешно — чиновник, ответственный за благоустройство какой-либо общественной территории, под угрозой административки и штрафа обязан уведомлять владельцев разукомплектованных транспортных средств о необходимости их убрать. Представьте, как круто было бы, если бы законы в России работали? Однако, дьявол в деталях. Просто ржавое корыто со спущенными шинами не попадает в эту категорию. Начнет попадать, если у него нет стекла или, например, фары. Так что в принципе, если кто-то у вас во дворе припарковал "недвижимость", месяцами прирастающую к месту, можно случайно (!) выбить ему задний ходовой огонь и потом уже фотографировать и отправлять в службы. Вряд ли владелец, который буквально бросил гнить свой автомобиль, станет его ремонтировать. Сфоткал сегодня по пути. Вообще, штуки три видел за полчаса ходьбы по району. #life

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #roberta

当前筛选 #roberta清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8817 · 20.10.2025 г., 20:41

⚡️BERT is just a Single Text Diffusion Step Любопытны пост, где автор объяснил на примере очень простую и очевидную, но мощную идею. Он заметил, что то, что мы называем диффузией текста, на самом деле - это просто обобщённая версия классического обучения BERT. Как работаетBERT? В BERT модель берёт текст и маскирует часть слов, а потом учится угадывать, какие слова были скрыты. В диффузии происходит почти то же самое, только шагов больше: на каждом шаге модель немного «портит» текст (добавляет шум), а затем восстанавливает его, всё меньше и меньше теряя смысл, пока не соберёт финальный чистый текст. То есть BERT делает один шаг очистки - угадывает замаскированные слова. А диффузионная модель делает много таких шагов подряд, постепенно превращая случайный набор токенов в осмысленный текст. Барри дообучил RoBERTa, чтобы показать это на практике - и получил настоящий текстовый диффузионный генератор. В примере: - Используется RoBER (улучшенная версия модели BERT,) и датасет WikiText. - На каждом шаге часть токенов заменяется на <MASK>, модель восстанавливает их, потом снова маскирует — и так несколько раз. - После нескольких итераций модель способна генерировать связный текст, даже без автогенеративного декодера (как у GPT). 📈Результаты - Модель генерирует осмысленный текст, хотя и не идеально связный. - Качество улучшалось по мере добавления шагов диффузии. - По времени генерации RoBERTa Diffusion была немного медленнее, чем GPT-2 (~13 сек против 9 сек), но архитектура осталась полностью encoder-only. Автор упоминает, что позже наткнулся на работу DiffusionBERT, где идею реализовали глубже и подтвердили результатами. Главная мысль: BERT можно считать одноступенчатой версией текстовой диффузии. Если добавить больше шагов, то vs получаем диффузионный генератор текста. Если BERT - это один шаг диффузии, то будущее может принадлежать моделям, совмещающим "понимание" и "генерацию" текста в одном процессе. https://nathan.rs/posts/roberta-diffusion/ @ai_machinelearning_big_data #AI#Diffusion#RoBERTa#BERT#LanguageModel#MLM#Research