Post #3140

ЭССЕ ДАРИО АМОДЕЯ - ВЫ ВСË НЕПРАВИЛЬНО ПОНЯЛИ ИИ-сообщество бурлит уже несколько дней. Компания Anthropic сначала выпустила Конституцию для своей модели Claude. А потом её CEO опубликовал эссе «Переходный возраст Технологий». Его пересылали мне даже люди далёкие от IT сектора. Я прочитал обзоры этого текста. А потом засунул его в свой «Анализатор имени Мэтью Макконахи». Вы всё неправильно поняли! Это не пророчество ИИ-будущего. Это попытка бизнесмена выиграть конкуренцию с помощью политических рычагов. Итак, зачем вообще понадобилось это эссе? Компания поддерживает имидж ответственного лидера ИИ-гонки, поэтому проводит различные стресс-тесты, результаты которых публикует. В том числе те, в которых их модель помогала новичку в разработке биологического оружия. Имидж честности надо поддерживать, поэтому Дарио признаёт опасность ИИ. Но это не компания виновата, поэтому они не прекращают свои разработки. Это просто «переходный возраст» технологий, остановить развитие которых в принципе невозможно. Название продумано до мелочей. В оригинале это «The Adolescence of Technology» явный парафраз с хайповым сериалом «The Adolescence», где подросток совершил убийство и никто не может понять почему. Зачем нужна такая жесть? Потому что общий информационный фон вокруг ИИ сейчас - это эйфория. Люди перестали опасаться. Их нужно вернуть в состояние тревоги, чтобы оправдать жесткие меры регулирования, которые он лоббирует. Более того Дарио позиционирует Anthropic как единственного адекватного игрока на этом рынке. Ведь они ДАЖЕ ВЫПУСТИЛИ КОНСТИТУЦИЮ для своей модели! (Не случайно - буквально накануне выхода эссе). Поэтому Anthropic - не враг человечества. А кто враги? Хм… да вот же они. Политики выступающие за запрет ИИ и (разумеется) Китай. Дарио несколько раз подчёркивает - остановить развитие ИИ невозможно. Если вы будете политически его душить, то в мировом масштабе это не получится (нет таких прецедентов в мировой истории - конечно, если не вспоминать Договор о нераспространении ядерного оружия, который худо-бедно но до сих пор помогает удерживать опасную технологию силой международных договорённостей) и Китай вырвется вперёд. А они вообще безбашенные и беспринципные. Если уж вы считаете, что ИИ - это зло. То выберите меньшее зло - наш Anthropic с Конституцией. Из всего этого Дарио делает вывод, что поддержка Anthropic - это вопрос как минимум нацбезопасности (а не нашего обогащения - вы туда вообще не смотрите, главное безопасность). Поэтому всем нам просто необходимо не останавливать прогресс, а душить Китай санкциями по чипам, принимать законы о прозрачности и готовиться к радикальному перераспределению благ (налоги, филантропия). Если же вы нас не послушаете, то уже через 1-2 года появится сверхразум, который будет не ограничен рамками нашей КОНСТИТУЦИИ. Поэтому… «ПОКУПАЙТЕ НАШИХ СЛОНОВ!» («Следствие ведут Колобки») @instrumentality