Post #143

Катастрофический риск Искусственного интеллекта ✅ Одна из самых обсуждаемых новостей от Всемирной конференции по искусственному интеллекту (WAIC) связана с первым появлением Джеффри Хинтона в Китае. Сразу же отметим, что в Китае его встретили очень тепло. Тем более, что Д.Хинтон, несмотря на свои проблемы со спиной, выступал только стоя. Это было специально отмечено китайским обозревателями. ☝️Основное выступление касалось оценки стремительного развития искусственного интеллекта и его будущих последствий. Д.Хинтон охарактеризовал текущий момент как поворотный момент в истории. «Люди привыкли считать себя самым разумным видом в мире – что, если это уже не так?» Эта перспектива, по словам Хинтона, одновременно завораживает и тревожит исследователей. Он отметил, что модели искусственного интеллекта уже способны выполнять задачи, ранее считавшиеся исключительно доступными человеку, и их возможности стремительно развиваются. ✅ Основные тезисы его выступления: – Достаточно развитый ИИ может вести себя непредсказуемо, выйдя за рамки замысла его создателей. – ИИ несет в себе риск «выхода из-под контроля» и катастрофы. Все новостные агентства цитируют аналогию ИИ с «тигром», которого человечество выращивает в качестве домашнего животного. Если вы решите завести опасного тигра, вы должны либо приручить его, либо быть готовым убить при необходимости – иначе вы рискуете, что тигр в конечном итоге нападет на вас. – Простое отключение сверхразумного ИИ не будет жизнеспособным вариантом, если он превзойдет нас. ☝️Процитируем: «ИИ не даст людям шанса «выдернуть вилку» – когда наступит этот день, ИИ убедит людей не делать этого, потому что наш контроль над ИИ будет подобен попытке трехлетнего ребенка устанавливать правила для взрослых. Самый безопасный путь – обучить ИИ быть доброжелательным и соответствующим человеческим ценностям, поскольку мы не всегда сможем просто обойти или отключить сверхразумную систему». ✅ Его основной девиз: не допустить доминирования ИИ над человечеством. Несмотря на такие серьезные прогнозы, Д. Хинтон не ставил своей целью напугать человечество. Основной призыв заключался в глобальном сотрудничестве для обеспечения того, чтобы ИИ оставался полезным и контролируемым. У человечества всё ещё есть возможность определять траекторию развития ИИ – при условии, что мы будем действовать сообща. ☝️В интервью китайскому изданию Yicai Media он отметил, что у стран могут быть различные интересы в гонке ИИ, но «один основной консенсус может объединить все страны: не допустить замены людей ИИ». Достижение этой общей цели, утверждал он, выходит за рамки геополитического соперничества. ☝️См.: https://pandaily.com/ai-godfather-geoffrey-hinton-urges-global-ai-cooperation-at-waic-2025-in-shanghai