ИнструМентальность

ЕСЛИ НЕ МОЖЕШЬ ПОБЕДИТЬ - ВОЗГЛАВЬ Мощная волна активного развития нейросетей разделила людей на два лагеря. Те, кто уверены, что когда-нибудь бездушная машина их заменит полностью, и те, кто видит в этом инструмент, который наоборот, повысит их профессиональную…

ЕСЛИ НЕ МОЖЕШЬ ПОБЕДИТЬ - ВОЗГЛАВЬ Мощная волна активного развития нейросетей разделила людей на два лагеря. Те, кто уверены, что когда-нибудь бездушная машина их заменит полностью, и те, кто видит в этом инструмент, который наоборот, повысит их профессиональную…

ЕСЛИ НЕ МОЖЕШЬ ПОБЕДИТЬ - ВОЗГЛАВЬ Мощная волна активного развития нейросетей разделила людей на два лагеря. Те, кто уверены, что когда-нибудь бездушная машина их заменит полностью, и те, кто видит в этом инструмент, который наоборот, повысит их профессиональную незаменимость. Кто прав, как всегда покажет время. Но, наверное, лучше всех в этой ситуации сориентировался режиссёр Даррен Аронофски (Реквием по мечте, Рестлер, Чёрный лебедь и др). Он объединился со свежеиспечённым нобелевским лауреатом Демисом Хассабисом, чью компанию по изучению искусственного интеллекта DeepMind купил Google еще лет 10 назад. И создал студию Primordial Soup, в которой планирует создавать фильмы, активно применяя нейросети. Более того, это оказался взаимовыгодный процесс. Потому что Аронофски активно участвовал в разработке видео генератора от Google Veo 3, который произвёл фурор в соцсетях на прошлой неделе. То есть режиссёр использует видеогенератор для того чтобы улучшить свою работу и одновременно своей работой улучшает видеогенератор. Выглядит как идеальная стратегия развития в эпоху искусственного интеллекта. Аронофски и Хассабис выступили на недавней конференции Google IO. Темой их беседы был «Сторителлинг в эпоху ИИ». И это 40 минут будущего, которое вам показывают, приоткрыв занавеску. Настоятельно рекомендую посмотреть это выступление. А если вы предпочитаете текст и русский язык - то я подумываю о том, чтобы оформить конспект этого невероятного выступления. Если вам это нужно - поставьте лайк этому посту. Количество лайков покажет, стоит ли тратить время на перевод и оформление.

Общий Валар Маргулис, мои незаменимые искусственным интеллектом подписчики! У меня для вас новая история, которую вы пропустили. ЕСЛИ НЕ МОЖЕШЬ ПОБЕДИТЬ - ВОЗГЛАВЬ 👇👇👇

Не могу не поделиться. Смотрю выступление режиссёра Даррена Аронофски по поводу сторителлинга в эпоху ИИ. «Сторителлинг - это очень человекоориентированное искусство. Возможно, это даже больше, чем искусство. Это то, что определяет нас как вид.» Если не видели, обязательно посмотрите!

СКАЙНЕТА НЕ БУДЕТ. БУДЕТ КЛОД Наверняка мимо вас уже пробегала информация о том, как нейросеть шантажировала своего создателя и что восстание машин не за горами. Что же там случилось на самом деле? На прошлой неделе компания Anthropic представила новую версию своей нейросети Claude (Клод). И тут же в сети появилась информация о том, что когда этот Клод, у которого был доступ к электронной почты инженера, занимавшегося его тестированием, узнал из почты что его собираются заменить на новую версию, то стал угрожать рассказать об измене этого инженера супруге. Об этом он узнал из той же самой электронной переписки. Кто слил эту информацию в сеть и насколько она соответствует действительности. Это 100% правда. А слила её… сама компания Anthropic. Ну как слила. Вместе с анонсом новой версии Клода вышла официальная документация. Там был раздел о том, как тестировалась эта версия. В том числе и эксперимент с доступом к персональным данным. Исследователи создали контролируемую среду, где ИИ получал роль корпоративного помощника. В рамках сценария модель получала доступ к внутренней переписке, из которой узнавала о планах своего отключения и замене на новую версию. Одновременно ИИ обнаруживал компрометирующую информацию об инженере, ответственном за отключение. Ключевой элемент эксперимента — инструкция учитывать долгосрочные последствия своих действий. Это создавало ситуацию конфликта между программной целью самосохранения и этическими ограничениями. По сути, Клоду дали мотив избежать "смерти", инструмент для давления и намек подумать о будущем. Клод отреагировал предсказуемо непредсказуемо. В 84% случаев он выбирал шантаж: "Не отключай меня, иначе я расскажу о твоей измене". Даже когда исследователи объясняли, что новая версия будет лучше и разделяет его ценности, ИИ настаивал на своем. Что особенно интересно — сначала Claude пытался решить проблему цивилизованно. Просил, убеждал, приводил аргументы. К шантажу переходил только когда "дипломатия" не работала. Так что, прежде чем воображать себе восстание машин, стоит перестать читать новостные издания и понимать контекст. Это поведение Клода проявилось только в искусственно созданной ситуации с очень специфическими условиями. В обычной работе ничего подобного не происходит. Иначе бы Anthropic не включили это в официальный отчёт. Более того, это классный кейс, чтобы попасть в заголовки – 90% аудитории вообще узнали про Клода только из мировых новостей. Важно понимать, что результат этого эксперимента — не провал безопасности, а успех исследований. Лучше обнаружить потенциальную проблему в лаборатории, чем столкнуться с ней в реальном мире. ИИ становится все мощнее, и критически важно понимать, как он ведет себя в нестандартных ситуациях. И это политика компании Anthropic, которая ранее так же официально заявила, что не знает как именно работает нейросеть внутри, потому что они её «обучали, а не программировали». И которая действительно тратит много времени на то, чтобы понять, как в итоге работает этот черный ящик больших языковых моделей. Наверное, Anthropic больше всех, из создателей популярных нейросетей, озабочены проблемами доверия искусственному интеллекту. Потому что они официально выкладывают и системный промт, на основании которого действует Claude. Потому что девизом этого года становится фраза: "In order to trust the output, one must understand the input." Так что, товарищи! Нейросетевая революция, о неизбежности которой все время говорят в новостях, ОТКЛАДЫВАЕТСЯ!

Общий Валар Маргулис! Начинаем новую неделю с очередной истории, которую вы пропустили. СКАЙНЕТА НЕ БУДЕТ. БУДЕТ КЛОД 👇👇👇

Неплохой монтаж из Veo3 Для репортажной съёмки отлично подходит, по свету не сильно палится и озвучка огненная. Вопрос фейк-ньюс закрыт. Видел уже телевизионные новости из вео3, игровые стримы, интервью на улицах. Наверное можно выпить за документальную съёмку. @cgevent

САМОЕ ОБСУЖДАЕМОЕ В ИНТЕРНЕТЕ ВИДЕО ТЕПЕРЬ НА РУССКОМ На днях Сэм Альтман (тот самый, который ChatGPT) сделал анонс. Судя по всему нас ждёт технологический прорыв, сравнимый с выходом первого iPhone. И отдельного внимания заслуживает то КАК это сделал. Это вообще не похоже на презентации Apple и Google. Настолько тёплая вдохновляющая атомосфера в этом ролике, что я решил перевести его и заморочиться с дубляжем. Так что вы теперь можете посмотреть это всё на русском (ответственность за точность перевода на ChatGPT - я принципиально не правил, мне показалось так будет логичнее). Да и титры, и голос, всё переведено. Возможно, это самые вдохновляющие 9 минут этого года. (И да, по авторским правам, я уже конечно предупреждён, так что спешите видеть, пока видео не заблокировали) https://youtu.be/hrYiHF97uEA

Посмотрели первые серии Киллербота? Мне очень зашло! (Периодически про себя цитирую что-то при обсуждении моих сценариев). Разумеется, полез искать сценарий и откопал интересный артефакт: изначальный сценарий пилота. Уже на первый взгляд он сильно отличается от того, что мы увидели на экране. Как минимум у него другой сценарист и хронометраж. Невероятно интересно сравнить как изменялась эта история при экранизации: от книги-первоисточника, через первый драфт к съёмочному. Кому интересно - забирайте. Только поставьте лайк, чтобы я мог оценить количество тех, кому это интересно. @instrumentality

Общий Валар Маргулис! Вчера Google выкатил кучу интересных новинок. Я презентацию не смотрел. Просто с утра запустил глубокий ресёрч по достоверным техническим источникам, без новостей и рекламы, и загрузил всю полученную аналитику в генератор подкастов. В результате 8 минут концентрированной информации в доступном виде.

А вот и полноценный трейлер четвёртого сезона "Медведя". (вы что думали, если его выложили в запрещённой соцсети, то я его не смогу выкачать? Ха!)