Post #94146

ИИ начнет меняться без нас? Современный ИИ со временем может начать развиваться по законам дарвиновской эволюции — с отбором, наследованием и борьбой за «выживание». К такому выводу пришли профессор ИИ Люк Стилс, Эёрс Сатмари и их коллеги-эволюционные биологи. Авторы считают, что разработчики рано или поздно встроят в ИИ механизмы эволюции, потому что они помогают быстро усиливать полезные свойства. Но здесь и кроется риск: такие системы могут начать преследовать цели, не совпадающие с человеческими. Исследователи напоминают, что для угрозы не нужен даже «сверхразум». В природе и не самые сложные организмы умеют обходить контроль: бактерии становятся устойчивыми к антибиотикам, вредители Наука ¹⁷ ⁰¹