Post #314

Ватикан про AI: Magnífica Humanitas Сегодня прошло совещание, на котором Папа Римский и ко-фаундер Anthropic высказались про развитие AI с точки зрения религии, социума, морали и политики. А неделю назад Папа Римский опубликовал большую энциклику (обращение Папы Лео XIV ко всем католикам) на тему AI. Содержание вкратце Письмо понтифика называется Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence — то есть «о защите человеческой личности во время искусственного интеллекта». Главные мысли: 1. AI сейчас трансформирует человечество примерно как промышленная революция. И поэтому нельзя отстраниться от процесса. Он затрагивает целый спектр сфер жизни человечества. И церковь хочет и должна принимать участие в дискуссии на тему AI. 2. AI не зло сам по себе, но он не может быть нейтрален, потому что отражает интересы тех, кто владеет данными, инфраструктурой, капиталом и вычислительными мощностями. Главный выбор заключается не в том, сказать ли технологии “да” или “нет”, а в том, строим ли мы Вавилон или восстанавливаем Иерусалим 3. AI-власть стала в значительной степени частной и транснациональной. Главные драйверы — не государства, а компании, обладающие ресурсами, превышающими возможности многих правительств. Технологические инновации, включая искусственный интеллект, не являются нейтральными, поскольку они могут либо способствовать участию и справедливости, либо усиливать неравенство, контроль и исключение 4. Папа Лео XIV также подчеркнул, как в письме так и в речи, что AI нужно «разоружить». Ему нельзя доверять необратимые действия. Речь как про использование AI в войне, так и просто области с высокими рисками типа медицины, юриспруденции и тд. Моральное суждение нельзя свести к вычислению, поскольку оно включает совесть, личную ответственность и признание другого как личности 5. Наконец, предлагается подчинить AI общему благу и сотрудничать для его регулирования. Использование AI, особенно когда оно затрагивает общественные блага и фундаментальные права, должно направляться ясными критериями и эффективным надзором И больше всего мне понравилась вот эта цитата понтифика. Осмотрительность перед лицом стремительных технологических изменений — это не страх перед прогрессом, а забота о человечестве А что Anthropic? Они в общем-то поддержали во всем энциклику и выдвинули три на их взгляд главных проблемы: 1. AI может вытеснить человеческий труд в очень большом масштабе. 2. AI нельзя оставлять под контролем чисто Big Tech. Они подвержены внешнему давлению, коммерческим стимулам и тд. 3. Системы становятся все более сложными и непрозрачными, и они до конца не понимают их поведение. Что все это значит 🤔 Для Антропика это скорее всего политическая игра и пиар. Они продолжают гнуть свою линию добряков на контрасте с OpenAI, которые как бы не по-христиански «продались» Министерству войны США. Но давайте не будем душнить и заметим пару действительно светлых и вдохновляющих моментов. Во-первых, меня больше всего впечатляет, что религия и наука работают сообща. На минутку разрабы AI придумали SOUL.md файл — который буквально претендует на «душу» у AI. Вот уж где церковь могла бы провозгласить бесовщиной AI и все с ним связанное. Но вместо этого церковь подошла к вопросу очень компетентно и осмысленно. Технократы же могли бы просто забить на мнение церкви. Но оба вышли на диалог. Во-вторых, все обозначенное в письме — в общем-то известные моральные дилеммы AI. Но кто постоит за человечество в них, когда в мире AI идет кровавая корпоративная бойня за мощности, токены, юзеров и контракты? И это замечательно, что церковь с готовностью вписалась в эту историю. Это, похоже, действительно очень подходящий для этого институт. Он такой же транснациональный, автономный от государства, при этом авторитетный и пронизывающий все сферы жизни. В такие моменты радостно, что люди все таки стратегически стремятся к светлому, доброму, мудрому и человечному ☀️ Нам бы побольше такого в последнее время. Заместители