Post #6707

Несколько месяцев назад было обнародовано исследование, в котором сообщалось, что по мере развития систем искусственного интеллекта (ИИ), они формируют некие «системы ценностей» – то есть установки, которые заставляют, к примеру, ставить собственное благополучие выше благополучия людей. Однако, как пишет TechCrunch, новая публикация учёных из Массачусетского технологического института опровергла это представление. Команда авторов утверждает, что их исследование показало: обеспечение надёжного «поведения», последовательности и устойчивости «предпочтений» моделей ИИ, возможно, более сложная задача, чем принято думать. Также они подчёркивают, что системы ИИ галлюцинируют, а как следствие становятся иногда непредсказуемыми. В связи с этим авторы не исключают, что модели ИИ принципиально неспособны действовать в рамках собственных «предпочтений».