TGTGInsightтелеграм анализLIVE / telegram public index
← Такты, стеки, два колеса

TGINSIGHT SIMILAR POSTS

Намери подобно съдържание

Изходен канал @clockstackwheels · Post #499 · 10.08

В массовых источниках информации пишут, что в Сочи сейчас дикие толпы людей на пляжах, и туда лучше не ехать. Но у нас пригород Сочи и выделенный пляж от отеля, толп вообще нет. Конечно, за это пришлось чуть больше заплатить (ненамного, учитывая в целом высокие сочинские цены), а ещё слегка потерять в инфраструктуре, но окупается полностью. И тут я подумал, а можно ли как-то объективно понимать разницу между издержками и выгодой? Не только с пляжами, вообще в жизни. Вот кто-то стоит в очереди в кассу метро, потому что лично для него это удобнее и комфортнее, чем учиться пользоваться автоматом. Можем ли мы отличать ситуации "Он выбирает то, что ему субъективно удобнее, отстаньте от него" и "Он совершает объективную ошибку, отказываясь тратить чуть больше усилий ради куда бОльшей выгоды впоследствии"? Если люди делают что-то, что вам кажется неудобным/неэффективным, то как понимать: это просто вариант личных предпочтений, или действительно людям стоило бы рассмотреть разные варианты? Допустим, кто-то не ест лук, но лук полезный, а ещё присутствует во многих блюдах. Почему бы такому человеку не терпеть личный дискомфорт от употребления лука ради объективно более удобного выбора? Чем это отличается от очередей в кассу вместо автомата, от вызова такси по телефону вместо приложений, от просмотра фильмов с рекламой по телевизору вместо стриминга? На мой взгляд ответ такой: если усилия нужно вкладывать единожды, либо непродолжительное время, но взамен ты получишь систематическую выгоду надолго или навсегда, то отказ от вложения усилий это объективная ошибка, а не вкусовое предпочтение. Например, ты один раз учишься пользоваться автоматом, и потом больше никогда не стоишь в очереди в кассу. Ты один раз платишь больше денег, и потом в течение многих дней не терпишь толпы на пляже. Ты один раз покупаешь паркинг, и потом никогда не ищешь часами место во дворе. При этом бывает и обратная ситуация: вот бросить курить очень сложно, в этом я верю курильщикам. Ты в течение многих месяцев вкладываешь значительные усилия, а потом до конца жизни так или иначе себя сдерживаешь, при этом выгода очень условная — трудно оценить, сколько лет тебе в итоге добавил отказ от курения. Разве что деньги на сигареты не тратишь, но вложения всё равно систематические. Так что выбор "не бросать курить" понятен. Другое дело, с этой точки зрения не понятен выбор "начинать курить", но это отдельный разговор. С луком аналогично: нельзя привыкнуть его есть, если ты его не любишь. Я вот за 32 года так и не привык, хотя периодически приходится: недавно в ресторане заказал пасту, и она почему-то оказалась с луком, а ведь по классическому рецепту не должна была. Наверняка, можно как-то более точно поделить. Не любые разовые усилия оправдываются даже систематической выгодой (пример: покупка автомобиля в городе, до сих пор очень спорная вещь). Но для меня граница лежит где-то тут. Однократная трата ресурсов для постоянного увеличения эффективности и/или комфорта — это форма автоматизации. #life

Hashtags

Резултати

Намерени 1 подобни публикации

Търсене: #bfl

当前筛选 #bfl清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #9625 · 05.03.2026 г., 13:26

🌟Self-Flow: обучение диффузионных моделей без внешних энкодеров от Black Forest Labs. Black Forest Labs и MIT решили проблему, с которой сталкиваются диффузионные и flow-модели: чтобы генерировать качественные картинки, им нужны сильные семантические представления. Обычно их берут снаружи - выравнивают внутренние признаки модели с признаками энкодера вроде DINOv2. Метод работает, но есть нюанс. Чем сильнее энкодер, тем хуже результат: в экспериментах замена DINOv2-B на более мощный DINOv3-H+ стойко ухудшала FID. Модель привязывалась к фиксированным внешним представлениям и переставала масштабироваться. На видео и аудио выравнивание с энкодерами V-JEPA2 и MERT вообще давало результат хуже ванильного flow matching. 🟡Self-Flow предлагает механизм Dual-Timestep Scheduling В стандартном flow matching все токены нойзятся одинаково, поэтому модель решает задачу локально и не учится строить глобальные связи. Self-Flow сэмплирует 2 разных уровня шума и случайно назначает их разным токенам (часть входа зашумлена сильнее, часть чище). Это создает асимметрию: чтобы восстановить сильно зашумленные токены, модель вынуждена опираться на чистые и строить глобальный контекст. Поверх этого работает самообучение по принципу дистилляции. Обучаются одновременно 2 копии модели: модель-ученик видит смешанный зашумленный вход, модель-учитель - более чистую версию (EMA-копия с экспоненциальным скользящим средним). Ученик учится предсказывать признаки учителя из зашумленного входа, и это вынуждает его развивать сильные семантические представления без какого-либо внешнего энкодера. 🟡Результаты тестов 🟢На ImageNet 256×256 Self-Flow показал FID 5.70 против 5.89 у REPA; Это, кстати, первый случай, когда self-supervised метод превзошел внешнее выравнивание на этом бенче 🟢На text-to-image: FID 3.61 против 3.92 у REPA; 🟢По видео: FVD 47.81 против 49.75 у REPA; 🟢По аудио: лучшие FAD-оценки среди всех вариантов. При этом на масштабировании (с 290M до 1B) разрыв с REPA увеличивается: модель Self-Flow на 625M параметров обходит REPA на 1B. Метод универсален для модальностей - он работает одинаково на картинках, видео и аудио, что намекает на применение для мультимодального обучения. В репозитории проекта есть код инференса на основе SiT-XL/2 с per-token timestep conditioning, чекпоинт на основе ImageNet 256×256 и скрипты для генерации сэмплов под FID-оценку через ADM evaluation suite. Поддерживаются режимы SDE и ODE, мульти-GPU через torchrun. 🟡Статья 🟡Техотчет 🖥GitHub @ai_machinelearning_big_data #AI#ML#Multimodal#Framework#BFL