TGTGInsightтелеграм анализLIVE / telegram public index
Обратно към каналите
шиза от вадима🍎 avatar

TGINSIGHT CHAT

шиза от вадима🍎

@vadimfedenko

Блогове

bizzare little out of the way journal publishing all kinds of strange esoterica on the edge of "academic" discourse Прошу прощения за клиноморфзм в названии

Абонати128Текущи абонати
Публикации153Индексирани публикации
Скорошен обхват2,735Прегледи на скорошни публикации
Последни публикации

Последни публикации

Стр. 3 от 13 · 153 публикации

Публикувано 5.01

О трех дверях Небольшая заметка о недавнем "изъятии" Мадуро из Венесуэлы. В классическую эпоху холодной войны США себе такое позволить не могли: ядерные боеголовки слишком быстро материализовались бы у американских берегов а-ля новый Карибский кризис. Такое трюкачество было под негласным запретом, и внешняя политика работала на тонком шпионаже и кабинетных интригах. Это была эпоха конкуренции, когда за дверью было принято подслушивать. Далее было межсезонье — "фукуямский конец истории". США остались одиноким гегемоном, которому как бы всё и так принадлежало. По DC Leaks мы знаем, что это была эпоха Сороса: власть мягко перехватывали через скупку политэлит, гранты и создание институтов с правильной повесткой. Стоять под дверью стало необязательно, если можно купить от нее ключи. Теперь новый виток. В мире снова начался передел власти, всплыли старые раны на политической карте. Но передел проходит в рамках "многополярного" мира, который на поверку является однобоким военным доминированием США. Вместо шпионажа и глубокой конспирологии настала эпоха прямоты и открытости: вполне нормально похищать президента другой страны. Хотя совсем недавно похищение президента считалось плоским тропом в жанре фантастики. Такую прямоту в переделе власти до этого сдерживал ядерный паритет. Ключ новой эпохи — коллективная способность представлять, что ядерного оружия не существует. Воевать и беспределить снова можно, если дружно притвориться, что ЯО больше нет. У Харари было понятие "интерсубъективной реальности": фикции вроде денег или законов становятся реальными, только пока мы коллективно в них верим. С ядерным оружием обратное — как бы интерсубъективная фантазия, или слепота. Физически оно есть, но мы коллективно сделали вид, что его не существует. Так мы вернулись в эпоху, когда двери принято выбивать

169 views

Публикувано 2.01

Об ИИ и болезнях Представьте, что решили дообучить Stable Diffusion на своем любимом лице. Пачка ваших фотографий показывается нейросети очень много раз, и веса модели постепенно подгоняются под соотношения, которые та "видит" на фото. Например, ваши черты лица вроде расстояния меж глаз не меняются — это инвариант, пропорции черт одинаковы на всех фото. Эту одинаковость значений легко закрепить при обучении весов. Один и тот же сигнал укрепляет связь, как в мозгу. При этом на фото менялись прическа, свет, мимика. Меняются пропорции между уголками губ, положение волос — это вариативно, и при нормальном обучении это закрепляется плохо (тоже как с мозгами). Для модели вы — набор инвариантов, которые не менялись на фото. Именно инвариантность позволяет генерировать новые изображения с вашим лицом, т.е. по сути менять "вариативную" часть фотографий. Любопытен в этом overfitting (переобучение). Нейросеть можно перетренировать, а ваше лицо таким образом "запечь" в модели. Если продолжать обучение бесконечно, то даже варьирующиеся вещи модель начинает видеть так часто, что они укрепляются. В итоге инвариантом становится фото целиком. ИИ теряет гибкость: модель начинает выплевывать 1-в-1 те же фото, что подавались при обучении. (Тут все упрощаю, но уточню: переобучение проявляется по-разному в зависимости от архитектуры. У txt2img-моделей при долгом обучении редко встречается гроккинг, просто растет мемоизация, что мы на русском и называем запеканием). Вот этот опыт (а я запек сотни моделей!) дарит отличную интуицию по разным явлениям в нейрофизиологии. Особенно вспоминается случай Соломона Шерешевского — известного обладателя "фотографической" памяти. Стоит уточнить: чемпионаты по памяти выигрывают люди с заурядными мозгами, которые просто используют мнемотехнику (что тем не менее крутая вещь, так как я сдавал ею экзамены). Но это далеко от фотографической памяти, которая встречается крайне редко. Шерешевский — уникальный случай такой аномалии. Помимо способности на годы запоминать информацию с одного взгляда, он страдал от множества проблем, на первый взгляд не связанных между собой. Так, он с трудом узнавал людей. Шерешевский запоминал их "статично": если человек менял выражение лица или менялось освещение, он казался Шерешевскому другим человеком. Иногда это связывали с прозопагнозией (расстройством распознавания лиц), но это предполагает узкое нарушение в нижне-затылочной области и никак не объясняет его феноменальную память или проблемы с чтением, когда наплыв "паразитарных" ассоциаций мешал понимать смысл простых предложений. Его симптоматика магически схожа с "запеканием" ИИ, когда вся поступающая информация проваливается в инвариантность. В контексте мозга это могло бы означать чрезмерное укрепление нейронных связей (или, наоборот, нарушение механизма их ослабления). Такое "запекание" обеспечивает абсолютную память — точно так же переобученная нейросеть выдает точные копии фотографий из датасета. Но это ломает тонкий баланс: его мозг как бы делает overfit на конкретную сцену и не дает играть вариациям мимики или освещения. Образ сразу становится инвариантным, застывшим. Эта же логика переобучения ложится на другие симптомы, вроде навязчивой синестезии и невозможности отделить происходящее от "шума". Подозреваю, что на каждый баг нейросети у природы припасен аналог из нашей нейрофизиологии. Когда смотришь на артефакты CFG Scale, сложно отделаться от мысли, что это шизофрения. Внутренний сигнал модели усиливается настолько, что заглушает входящий промт; модель галлюцинирует и видит связи там, где их нет. Мы так усердно создавали архитектуру по своему подобию, что приходится смотреть на бедные машины, страдающие от наших недугов

188 views

Публикувано 31.12

Всем спасибо, кто читал канал в этом году. Я скрупулезно расставлял в постах буквы, хоть со стороны и не скажешь. В рестлинге есть такое понятие, кейфеб. Это когда все знают, что шоу постановочное, но все равно верят в него ради хорошего шоу. Новый год - тоже кейфеб. Физически декабрь от января не отличается, но мы верим изо всех сил ради хорошего шоу. Это наш симулякр изменения и происшествия, в мире где никогда ничего не меняется и не происходит. Хотя я не фан Нового года, но в пространстве кейфеба те, кто с умным видом доказывают, что Новый год - "обычный день", - самые скучные люди на свете. Это тот же тип людей, которые пишут о фейках под видосами из WWE. От них ускользает ценность праздника, которая вне объективной реальности, в нашей способности верить в общую галлюцинацию, интерреальность (звучу как фанат Харари НО я еще меньший его фанат, чем праздников...). Сценарий боя "Старого Года" с "Новым Годом" прописан заранее и нам известен: Новый Год победит. Но катарсис у победы настоящий

153 views

Публикувано 30.12

Это был достойный год, который войдет в историю как год Лабубу

144 views

Публикувано 28.12

163 views

Публикувано 28.12

Как вы знаете, Стандартная модель сводится к набору симметрий. Но есть малоизвестная работа Хольгера Нильсена (отца теории струн), в которой первичен хаос. Симметрия в ней - "выжившая" иллюзия, возникающая на больших масштабах. Это единственная вещь, наводящая на меня экзистенциальный Ужас. (потому что реальность, где Бог озаботился об элегантных законах физики - комфортная идея, навевающая на романтизм 18-го века. Идея об эмерджентных симметриях в Хаосе значит, что мы живем в Аду, но симметрии выдают его за хорошее место). В общем, я тайком фанатею по этой идее, а друзьям ради их блага рассказываю о гиперграфе Вольфрама, как о раскрасках вместо Некрономикона, чтоб не ввергать их в инфернальный шок. Пусть думают что реальность - это красивый граф. И вот пришла недавно мысль, создать клеточный автомат по принципу из "Случайной Динамики" Нильсона (или точнее, по чуть более ранней статье). Это бы был своего рода мета-автомат, где эмерджентны не структуры из заданных правил, а сами правила. Пробовал подбирать разные структуры: лучше всего подошли XY-подобные модели с векторными вихрями (приложил ниже видео) Правило обновления простое: выравниваться относительно соседей. И знаете, работает. Вихревые структуры притягиваются друг к другу и аннигилируют на ранних стадиях, а оставшиеся порождают графо-подобные структуры, что удостаивается от меня многозначительных интерпретаций. Единственный минус: вихри не реплицируются, либо я глуп и не придумал как элегантно подкрутить под это хаос в векторном поле. Ищу дальше менее равновесные структуры. Но и сейчас можно сделать некоторые выводы Магическое свойство клеточных автоматов - сложность эмерджентности: даже в Lenia отмечают, что заранее трудно понять, «не взорвётся» ли локализованный паттерн и не исчезнет ли он со временем. Поэтому в практике artificial life всё чаще используют автоматический поиск: например, находят параметры/правила, оптимизируя их под метрики “жизненности”, устойчивости, регенерации или разнообразия поведения Это наводит на мысли о "тонкой настройке": мы очутились в реальности, где эмерджентность проявляется на любом масштабе. В автоматах наоборот: даже если мы целенаправленно хотим эмерджентности, приходится использовать алгоритмы вроде эволюционного, чтобы их найти. Но вот вихревой автомат в этом смысле работает необычно. По идее Нильсена тонкая настройка может быть не нужна - симметрии выплывают на больших масштабах из хаоса в любом случае. С моими вихрями по волшебному случаю так и происходит: вихревые структуры в нем стабильны вне зависимости от колебаний параметров. Так что, может, "тонкая настройка" не такая уж тонкая, и сам Бог ничего не настраивал. Бог-рандомщик

177 views

Публикувано 23.12

Говорят, ИИ — это такой «стохастический попугай». Тасовщик токенов, имитирующий человеческое творчество, так? На днях увидел новый подкаст Нила Деграсса Тайсона с Брайаном Коксом, и они дружно сошлись, что ИИ просто выдает самый ожидаемый токен. Что делает…

182 views

Публикувано 23.12

Говорят, ИИ — это такой «стохастический попугай». Тасовщик токенов, имитирующий человеческое творчество, так? На днях увидел новый подкаст Нила Деграсса Тайсона с Брайаном Коксом, и они дружно сошлись, что ИИ просто выдает самый ожидаемый токен. Что делает этот взгляд сертифицированно мейнстримным. Взгляд этот опирается на предположение, что фундамент интеллекта — это именно человеческие концепты и символы. Но последние данные в науке намекают на обратную картинку: интеллект скорее геометричен, а концепты — такая карта навигации в рамках этой геометрии. Например, долгое время считалось, что за ориентацию в пространстве отвечают специфические отделы мозга. Это представление переменилось совсем недавно, с открытием клеток решетки ("grid cells") в энторинальной коре (Нобелевская премия в 2014) Эти клетки создают в голове карту физического пространства, похожую на GPS. Самое интересное открытие последних лет (The Doeller Lab и другие): мозг использует тот же механизм и для организации абстрактных знаний. Когда вы сравниваете птиц по размеру клюва и длине ног, мозг размещает их как точки с координатами на ментальной карте. То есть логика вообще становится топологией: суждение «пингвин — это птица» геометрически означает, что фигура «пингвин» вложена в фигуру «птица». Сходство объектов — это просто кратчайшее расстояние между точками в многомерном пространстве. Это весомый взгляд с точки зрения науки, но он пока далек от мейнстрима — главные открытия случились в последние 10 лет. Иногда требуется гораздо больше времени, чтобы идея добралась до общественного обсуждения (а иногда просто требуется, чтобы кто-то написал об этом удачную книжку). Если посмотреть на научные данные о работе нейросетей, принцип их работы еще более геометричен. В исследованиях OpenAI и Anthropic, модели не зубрят символы и не заучивают правила. Обучаясь модульной арифметике, нейросеть формирует свои веса в четкие геометрические паттерны — круги или спирали в многомерном пространстве (видео). Да, нейросеть не понимает школьного определения «сложения», но она находит геометрическую форму этого закона. Такой принцип работы распространяется и на большие языковые модели. Похоже, любой интеллект (и биологический, и искусственный) преобразует хаотичные данные внешнего мира в упорядоченные геометрические структуры и прокладывает маршруты внутри них. Мы подчиняемся одинаковым правилам сжатия сложности из теории информации. Аргумент об «ИИ-копирке» в этом случае теряет значение. Идея, что ИИ копирует паттерны, предполагает, что авторами этих паттернов являются люди. Но если в основе лежит геометрия — это не так. Люди — лишь первые исследователи, которые с помощью концептов обрисовали существующую топологию, как карту. Сама же топология существовала задолго до нас. В таком случае и ИИ не копирует людей, а исследует те же пространства, просто пользуясь человеческим языком как интерфейсом. Сам интеллект в этом случае — не изобретение структуры, и не создание новых паттернов, а открытие уже существующих, наиболее эффективных путей в многомерной геометрии информации. Моя основная мысль тут сводится к следующему: возможно, мы не поспеваем за наукой, и смотрим на мир старым взглядом, где интеллект управляется концептами. Это заставляет нас принижать заслуги ИИ. Если смотреть на интеллект с точки зрения геометрии, ИИ становится равноценным попутчиком, и похоже, что это гораздо более точный способ смотреть на работу ИИ.

795 views

Публикувано 22.12

229 views

Публикувано 22.12

Друзья, получил справку из РосБытиёНадзора. Оказалось, я превысил лимит на клеточную регенерацию. Нормальные люди меняют свои клетки каждые семь лет, но я долго засиживался в ванной, и в итоге обновился за три. «Ввиду замены исходной материи в ускоренном порядке, цепочка юридической идентичности была нарушена». Теперь я больше не Я. Юридически, Старый «Вадим» считается без вести пропавшим, а текущая биомасса — неавторизованный сквоттер в его квартире и новой владелец этого канала. В общем, придётся не мыться 14 лет, чтобы вернуться обратно в идентичность Вадима

170 views

Публикувано 18.12

Встретился вам на пути загадочник. Предлагает миллион долларов, если отгадаете его загадку с первого раза. Стоит отвечать? Стоит, но только если знаете ответ на 100%. В противном случае — лучше молчать. Так вы предпримете 0 попыток отгадывания на 1 единицу его загадок. Зачем? Подумайте сами: Что если он загадает загадку ещё раз? Поскольку вы ответили 0 раз, а загадка уже вторая, у вас есть 2 попытки, чтобы ответить с 1 раза. Но не останавливайтесь на этом. Попросите вместо загадки на миллион долларов, загадать миллион загадок по доллару каждая. Внимательно слушайте, чтобы подтвердить акт получения загадки. Но мгновенно отворачивайтесь при переходе в акт отвечания. Так процесс ответа не инициируется. Зачем? Представьте сами: к вам подходит загадочник. Кто сказал, что он предложит отгадать загадку с первого раза? Он же выбирает произвольное число. Что если он попросит отгадать загадку с 0.000001 раз? Видимо, есть миллион вселенных, где загадочник дал загадку, а у вас лишь одна попытка её отгадки в рамках мультиверса. Приз, наверное, очень хорош. Математически победить можно, причем в каждой из вселенных, но только если вы накопите в каждой по миллиону загадок, на которые отвечали 0 раз, чтобы первая же попытка стала одной миллионной. Правда, загадочник ведь не ФРС и деньги не печатает. Обанкротите его и схема закроется. Лучше продавать лопаты, а не копать золото: Взять миллион накопленных «избеганий» ответа загадочнику. И выйти на вторичный рынок. Предлагать их как фьючерсы. На рынке есть люди, которым загадали загадку на жизнь или смерть. Они в панике, у них 1 попытка. Вы сможете продать им свои попытки за огромные деньги. А дальше используйте прибыль чтобы автоматизировать производство. Разбросайте по людным местам микрофоны. Пусть скрипт детектит загадки и автоматически инициирует игнорирование. Правда, юридически воровать попытки — серая зона. Лучше наймите профессиональных «не-отвечателей» — так будет легальнее. Впрочем, стоит ли их погружать в тему с «не-отвечанием»? Тогда они тоже дорвутся до фьючерсов. Надуют «не-отвечательный» финансовый пузырь. И мир усердно замолчит. 🍎

197 views

Публикувано 16.12

Новое расследование WSJ — это киберпанк, который мы заслужили: китайские миллиардеры используют законодательные лазейки США, чтобы с помощью суррогатного материнства создавать себе «династии» из десятков и сотен детей. Глава игровой империи Сюй Бо уже имеет более 100 наследников от суррогатных матерей в Калифорнии. Цена вопроса — около $200 тысяч за ребенка, что для ультрабогатых — карманные траты. Приятный бонус — американское гражданство для ребенка по праву его рождения в США. Это рождение «генетической плутократии» — фактически нового этапа в человеческой эволюции. Человечество откатывается к гипертрофированной полигинии, где репродуктивный успех самца определяется не здоровьем или силой, а капиталом. Остается вопрос: захочет ли Эго, требующее «династии», мириться с примесью ДНК от суррогатной матери? Технологии клонирования и IVG (создание гамет из клеток кожи) стремительно дешевеют. Сейчас это «серая зона», но в мире всегда найдется страна, готовая закрыть глаза на этику ради $$$. Так перед нами открываются два возможных сценария. Назовем их «Сценарием Нарцисса» и «Сценарием Пигмалиона». Сценарий Нарцисса Представьте мир, где миллиардер решает копировать самого себя. Ребенок наследует 100% генома отца, исключая мать из уравнения. Суррогатная мать лишь выполняет роль «инкубатора», пока у элит нет доступа к технологии искусственной утробы. Это не решит демографических проблем развитых стран. Китай останется глубоко вымирающим. Зато нас ждет жесткая кастовая сегрегация: море стареющего, беднеющего населения и узкая прослойка биологической элиты. Корпорации в таком мире мутируют в биологические структуры, где советом директоров могут быть буквальные копии основателя. Эволюция закрепит у них признаки гипер-конкуренции, отсутствия эмпатии и патологического накопительства — любые черты, позволившие предкам добраться до средств для клонирования. Можно ли назвать это биологическим концом истории? Богатые люди будут воспроизводить себя оптом и перестанут «меняться». Клон сможет породить клонов, и так далее. И хотя это носит маску бессмертия, в действительности это путь к вырождению: Монокультуры в природе (поля, засеянные одним сортом пшеницы) дают гигантский урожай, но погибают от новых вирусов. Человечество тоже выживало через разнообразие. Создав армию «успешного» генотипа, миллиардеры делают свой род (и элиту человечества в целом) хрупким. Одна социальная или биологическая «болезнь» может означать смерть для всей «династии». Сценарий Пигмалиона Сценарий клонирования эксцентричен, и вряд ли элиты массово ему последуют. Более вероятно продолжение пути, который мы видим сейчас: элиты выбирают доноров яйцеклеток по каталогам, как элитный скот — выпускницы Гарварда, модели, спортсменки, с сортировкой по IQ и росту. Как ни странно, этот сценарий — еще большая антиутопия, чем вариант с клонами. Если клонирование — это застой, то здесь речь о «человеческом животноводстве». Эффект гетерозиса взрывает разнообразие высокого качества, смешивая гены отца (риск, интеллект?) с отборными материнскими (красота, здоровье?). Здесь комплементарны технологии модификации ДНК, ведущие к окончательному уходу к «дизайнерским детям». Результат — появление биологической «супер-касты». Через 2–3 поколения дизайнерские дети будут статистически выше, умнее и здоровее обычного населения. Это предельная форма капитализма, проникшая в биологию. Здесь мать не уводится из уравнения, а собирается из трех сущностей: генетического донора, гестационной суррогатки и воспитательницы. Ребенок — продукт сделки, а отец — Пигмалион, лепящий себе идеал по дизайну. Так лучшие гены «обычных» перекачаются в «элиту», социальные лифты исчезнут, а мы получим мир, где гениальность — купленная привилегия, а не случайный дар природы. Как ни парадоксально, сценарий «50/50» опаснее клонирования. Если клонирование — это эгоистичный тупик, то массовая селекция создает новую, биологически превосходящую расу в духе программ по евгенике начала XX века. И социальное неравенство станет непреодолимым уже на генетическом уровне. 🍎

168 views
12345•••10•••1213