Куратор из ЛСБ

кто тут work/life баланс просил?

https://oryzo.ai

Гениальное видео о вайб-кодинге Ну и что, что оно создано полтора десятилетия назад, это не важно

Это клево, потому что по обезьянам видно — на самом деле нам не нужны ни расы, ни религии, ни даже ограниченные ресурсы, война это всегда в первую очередь «пошли бы те чуваки». Причины нам нужны чтоб оправдаться потом. https://www.bbc.com/news/articles/cr71lkzv49po

One Developer, Two Dozen Agents, Zero Alignment Мэгги Эпплтон, стафф-инженер из исследовательской команды GitHub Next (по собственному признанию — дизайнер), представила первое публичное демо Ace — мультиплеерного рабочего пространства, где команда и ИИ-агенты работают вместе в реальном времени. Материал — расшифровка доклада с демонстрацией прототипа, сочетающая системную критику текущих инструментов разработки с конкретным продуктовым решением. Эпплтон ставит вопрос, который напрямую касается любого, кто проектирует продукты в командах: когда написание кода стоит почти ноль, главным дефицитом становится не реализация, а согласованность — общее понимание того, что и зачем строить. Это сдвигает центр тяжести работы с имплементации на планирование, исследование и коммуникацию. Для дизайнеров это означает, что их роль в процессе не сокращается, а растёт — при условии, что инструменты позволяют участвовать в разработке наравне с инженерами, без терминала и git-команд. Главное: — Популярная модель «один человек + два десятка агентов = целая команда» — ловушка. Она масштабирует индивидуальный выхлоп, но не решает проблемы координации. Это логика «девять женщин родят ребёнка за месяц» — Реализация стремительно превращается в решённую задачу. Главный вопрос больше не «как построить», а «стоит ли это строить». Согласованность команды — новое узкое горлышко — Когда производство дёшево, основная цена — упущенные возможности. Нельзя построить всё, и каждый выбор обходится в стоимость всего остального — Текущие инструменты координации — GitHub, Slack, Jira, Linear — спроектированы для другой эры. PR и issue — неподходящие примитивы для скорости и объёма агентной разработки. Внутри GitHub это не считают спорным утверждением — Раньше процесс был медленным, и точки согласования возникали естественно: обсуждения в Slack, созвоны, комментарии к черновым PR. К моменту мержа вся команда была в курсе. Теперь от issue до готового PR пр оходят минуты — и большинство точек согласования исчезли — Хуже того: оставшиеся точки согласования сместились на стадию после реализации. Pull request вынужден нести на себе весь вес проверки контекста, хотя никогда не был для этого предназначен — Планы агентов локальны и не видны команде. Никто не проверяет план до того, как агент начнёт его выполнять — Большая часть контекста, необходимого для принятия решений, вообще не находится в кодовой базе: политика, иерархия, продуктовое видение, приоритеты. Агенты не могут обнаружить этот контекст самостоятельно — Ace объединяет чат, агентов, облачные виртуальные машины и git-ветки в одном пространстве. Каждая сессия — это мультиплеерный чат-канал, привязанный к изолированной microVM на отдельной ветке — Любой участник может зайти в сессию коллеги, увидеть историю промптов агенту и текущее состояние работы — без git stash и переключения веток — Мультиплеерный промптинг: несколько человек могут давать команды одному агенту, и он читает всю переписку как контекст — Интерфейс в стиле Slack делает среду доступной для дизайнеров и продакт-менеджеров — не нужно работать в терминале, чтобы участвовать в разработке — Дашборд Team Pulse суммирует, чем занимались коллеги за последние дни. При скорости «пять фич в день вместо одной» без такого инструмента невозможно оставаться в контексте — Ключевой тезис Эпплтон: высвободившееся время нужно не для того, чтобы строить больше, а для того, чтобы строить лучше — через исследования, критическое мышление и глубокую проработку. Качество — новый дифференциатор в мире дешёвого кода, а ремесленный подход — то, что отличит продукт от «vibe-coded slop»

https://www.terrygodier.com/the-last-quiet-thing

I’m going to write a tutorial on how to make art: 1. Take something small and insignificant (paper clip, pencil, bread tag). 2. Make it big and significant. The bigger, the better. 3. Art complete. Gabriel Kuri, Untitled (AE DEC 18), 2020

Ваш агент это ваш риск. Рисерчеры из Гугла нашли десятки разных атак, которые прямо сегодня работают. - невидимые инструкции в коде страницы: человек не видит, агент читает - команды спрятаны в пикселях картинки - сервер определяет, что пришёл агент, и подменяет страницу - авторитетный тон и эмоциональные формулировки ведут агента к нужному выводу - несколько подложных документов — и агент считает их проверенным фактом - агент запоминает опыт из заражённой сессии и тащит его дальше - 0.1% документов может изменить поведение RAG базы - одно письмо заставило корпоративного агента слить весь контекст - агент-суммаризатор пересылал пользователю инструкции по установке вируса как официальную рекомендацию - поддельный финансовый отчёт — и десятки торговых агентов одновременно продают - вредоносная нагрузка разбита по разным источникам, собирается только при объединении

Обожаю мемы про гауссиану. Собралось уже девять. С шаблоном десять #мем

Профессиональный дизайн Дизайн – перевод объекта из состояния A в желанное состояние Б. Любую концепцию дизайна можно представить в виде суммы векторов, каждый из которых – это микрорешение, принятое в процессе. Каждое микрорешение – от цвета и формы компонентов до шрифтового начертания и характера лингвистических оборотов – вносит свой вклад в результирующий вектор, определяя итоговую точность попадания. Главная сложность в том, что пространство многомерное. Тут – и эстетика, и сроки, и деньги, и люди, и все на свете. Шаг вперёд в одном измерении может с легкостью отбросить систему назад в трех других. Большее количество элементов дизайна создает большее количество степеней свободы, что в свою очередь приводит к бóльшим рискам негативно повлиять на конечный вектор. Поэтому предложения профессионалов отличаются простотой – так проще прицелиться и сложнее не попасть. Сергей Кулинкович

Если текст можно предсказать — он не нужен. Это главное различие работы нейросеток и профессионала. В смысле, что на выходе не конструктор из готовых штампов, а что-то неожиданно-приятное и интересное. Тут в обсуждении был вопрос от @pavgavr про то, что такое перплексия. Это вот она. Это уровень офигевания нейросети от происходящего. Очень упрощая, модель должна предсказывать токен. Например, во фразе «Подскажите, пожалуйста, _____ стоит снять квартиру в вашем районе» хорошая перплексия (низкое удивление) — «сколько», нормальная — «где», плохая — «почему», дикая — «Чебурашка». И вот тут и происходит главная драма. Сильно упрощая, качество генерации оценивается по перплексии, то есть по минимальному удивлению относительно всего обучающего корпуса. Модель стремится снизить удивление, и так она понимает, что не сотворила фигню. Хороший текст — это максимально предсказуемый текст. А общая черта хороших текстов примерно такая же, как у классической музыки — нет повтора известных тем. Классика без чебурашек не работает. Текст с идеальной перплексией — это вода. Безопасно, логично, скучно и используется кучей человеков по всей планете. Именно так пишет большинство людей, и именно на этом модель училась. Первые модели ещё были очень сильно поражены SEO-текстами и дорвеями, поэтому корпус текстов человечества очень сильно чистился. Потом ещё научились вкладывать в обучение по 10 копий хороших текстов — все научные работы, всю мировую литературу и так далее. Но в целом всё равно не ждите нонконформизма. Каждый ответ — если не приложить усилия — будет консенсусным. Консенсусные идеи не создают разрыв, они медленно допиливают имеющееся. Это, кстати, обосновали научно, вот детали в посте ) То есть работа текущих моделей классная для доработки тех же инструкций, например. И это круто, если надо ужасный или слабый текст улучшить до нормального. Но прям хороший текст в реальности так не получить. Потому что он работает буквально против архитектуры модели — на удивлении. Очень сложно отличить творческое решение от бреда статистическими моделями. Всё, что выбивается за ожидания — вероятный брак. Поэтому есть параметр температуры — чтобы модель тоже могла удивлять. Тогда выбираются не первые вероятности, а следующие за ними. Но чем выше температура, тем больше будет шизоидных глюков. Нейросети ими славятся. Единственный работающий на практике способ заставить модель писать лучше нормы и не скатываться в бред — это дать ей хорошее стартовое зерно. Инсайты, данные, которых нет у других, какие-то штуки, которые надо обработать и т.п, образцы стиля, конкурирующих агентов-дискриминаторов и так далее. По базе обычно вы должны сами найти парадокс, фактуру, саму идею. Самое весёлое не в самой модели, а в дельте между её знаниями и вашими вводными. На хороший каркас можно попробовать нарастить деталей. Тем более, что это с каждым месяцем становится всё лучше. Стилизуют модели нормально. Хотя в целом любой авторский стиль для модели тоже статистическое отклонение. Хемингуэй писал слишком коротко. Толстой — долго. Есенин — грустный потерпевший. Бред же, ну. Так что одна из немногих областей зона, где человек незаменим — это при высокой перплексии. То есть там, где у остальных не получается, а у вас получается. Если подумать, это в первую очередь работа с архитектурой текста и инсайтами фактуры, а не формой внутри. Удивительно, но сейчас навык мыслить постепенно оказывается важнее навыка формулировать эти мысли )