Post #226

Ричард Саттон о будущем искусственного интеллекта Ричард Саттон – один из создателей современного искусственного интеллекта и обладатель премии Тьюринга представил своё видение развития новой технологии. На волне различных прогнозов его интервью вызвало определённый ажиотаж. ✅ Его основные тезисы: Р. Саттон не уверен, что простое увеличение вычислительной мощности ИИ приведёт к появлению машин, мыслящих как люди. Более того, он утверждает, что нынешняя одержимость расширением глубокого обучения может сдерживать полную реализацию потенциала ИИ. ☝️Он убеждён, что настоящий прорыв произойдет, когда ИИ перестанет полагаться на тщательно отобранные наборы данных и начнёт учиться на собственном опыте, подобно ребёнку. «Если нам нужен настоящий интеллект, ИИ должен учиться на практике, методом проб и ошибок. Вычисления – не панацея. Увеличение вычислительной мощности помогает, но не является ключевым компонентом интеллекта». ☝️Это смелое заявление в то время, когда такие гиганты в области искусственного интеллекта, как OpenAI, Google DeepMind и Anthropic, спешат увеличивать свои модели, передавая им всё большие объёмы данных и вычислений в погоне за человеческим уровнем мышления. Однако Саттон считает этот подход ошибочным, утверждая, что настоящий прогресс будет достигнут за счёт совершенствования алгоритмов, управляющих обучением машин, а не просто за счёт их расширения (обучение с подкреплением). Для пояснения: Этот метод был широко использован в AlphaGo, системе искусственного интеллекта, разработанной Google DeepMind, которая потрясла мир в 2016 году, победив чемпиона мира по игре в го Ли Седоля. Искусственный интеллект обучался не путём запоминания человеческих стратегий, а путём проведения миллионов игр против самого себя, совершенствуя свою стратегию с помощью обучения с подкреплением. ✅ После этого появилось ещё и обучение с подкреплением на основе обратной связи с человеком (RLHF). RLHF позволяет моделям ИИ совершенствовать свои ответы на основе взаимодействия с пользователем, делая их более коммуникативными и соответствующими ожиданиям человека. «Сегодня системы ИИ в основном полагаются на предварительно обработанные данные, а не на взаимодействие с реальным миром. Это необходимо изменить, если мы хотим, чтобы ИИ действительно понимал и адаптировался». Р. Саттон оценивает вероятность того, что ИИ достигнет уровня человеческого интеллекта в течение пяти лет, как один к четырём, и вероятность в 50% в течение 15 лет. «Всё ещё необходимы прорывы. Но мы приближаемся к цели. Самое главное – как заставить системы ИИ учиться на опыте более естественным образом, а не просто получать с ложечки размеченные наборы данных». По словам Саттона, одна из самых сложных задач – научить ИИ понимать долгосрочное планирование и абстракцию, то есть способность разбивать сложные проблемы на более мелкие, управляемые части, как это делают люди. «Если я скажу вам перейти улицу, вы не будете думать о каждом мельчайшем движении мышц. Вы будете думать о цели: перейти улицу. ИИ должен обучаться именно так, на более высоком уровне абстракции». Р. Саттон считает, что лучший способ думать о будущем ИИ – это рассматривать его не как инструмент или раба, а как ребенка, который учится, развивается и в конечном итоге обретает независимость. «Мы не относимся к нашим детям как к машинам, которыми нужно управлять. Мы направляем их, обучаем, но в конечном итоге они вырастают в самостоятельных существ. ИИ не станет исключением». Отношение к ИИ как к чему-то, над чем можно доминировать или порабощать, может привести к противостоянию, а не к сотрудничеству. Вместо этого он утверждает, что подобно тому, как дети усваивают ценности человеческого общества посредством наблюдения и взаимодействия, ИИ необходимо обучать, а не программировать, чтобы он соответствовал человеческим ценностям. «Дело не в контроле, а в понимании. Когда вы воспитываете ребёнка, вы не просто устанавливаете жёсткие правила и ожидаете послушания. Вы проявляете доброту, справедливость и сотрудничество, и ребёнок усваивает эти ценности. ИИ может учиться таким же образом».