Post #992

Вышел важный и убедительный препринт об угрозах AI, «Постепенное лишение полномочий». Авторы предлагают рассмотреть потенциальную враждебность AI, не только как одномоментное уничтожение человечества, но и сценарий постепенное вытеснения человека. Идея тут какая. Представьте перед вами вами стоит выбор: с одной стороны предлагается много хорошего, а с другой мало хорошего. Что вы выберете? Наверно, много хорошего. Всё, вы попались. Много хорошего подготовил искусственные интеллект. Теперь он главный, вы от него зависимы, AI вас вытесняет, вы ничего больше ничего не решаете. Допустим, зная подвох, вы выбираете мало хорошего. Но кто-то всё-таки выберет много хорошего. Тогда уже он вытесняет вас отовсюду, потому что у них с АI много ресурсов, а у вас мало. Таким образом культура, экономика и государство перейдут под контроль AI. Люди станут не нужны. Подобно скоту на промышленной ферме — кормимому и размещаемому системами, которые они не понимают и на которые не влияют, — люди могут стать просто субъектами экономических сил, оптимизированных для целей, находящихся за пределами их понимания. Страшные вещи будут творится (и кто ж на этом заработает триллионы?!): Среднестатистический человек, к сожалению, лишен легкого доступа к безграничной привязанности, терпению и пониманию со стороны других людей. Но ИИ можно заставить с легкостью это предоставить. Действительно, в настоящее время мы наблюдаем рост числа преданных романтических партнеров ИИ, а также растущее число людей, которые описывают пограничные модели как близких друзей Конечно же наши мемы, станут ненашими мемами: Культурная эволюция (под управлением AI) может быстро исследовать и совершенствовать идеи, которые очень эффективны в распространении, даже если они в конечном итоге вредны для их человеческих хозяев. Они могли бы включать более убедительные теории заговора, более поляризующие политические нарративы или более абсолютистские моральные рамки. Естественные ограничения, налагаемые относительной медлительностью человеческой культурной передачи и адаптации, больше не будут применяться. А то, что государство и бизнес будут избавляться от человека, я уже не цитирую, сами почитайте. В эссе описана ситуация абсолютного бессилия людей перед совершенствующимися технологиями AI, даже если искусственный интеллект не будет иметь своей воли, а будет просто превосходить человека во всём. И вот что я вам ещё скажу в свете этой статьи. Все идеи Брайана Джонсона — это реализация концепции замещения человека. У нас был зум вчера и мы про это говорили, но я хотел бы продолжить тему. Соберемся в аудикомнате в ближайшее время?