Post #624

В ходе симуляции, БПЛА управляемый ИИ убил американского оператора С 23-24 мая в Лондоне состоялся саммит по боевым воздушно-космическим возможностям "Future". На саммите выступил полковник ВВС США Такер Гамильтон, начальник отдела тестирования и эксплуатации искусственного интеллекта и рассказал об эпизоде демонстрирующем опасность ИИ. В ходе симуляции боевого вылета беспилотника с поддержкой ИИ, которому было поручено уничтожать объекты ПВО с ракетами класса "земля-воздух", ситуация обернулась против человека-оператора, который должен был принять окончательное решение об уничтожении объекта. Система искусственного интеллекта узнала, что ее миссия состояла в уничтожении ПВО, и это был предпочтительный вариант. Однако, когда человек отдал приказ об отмене атаки, ИИ решил, что это противоречит высшей цели миссии уничтожения ПВО, поэтому, в ходе симуляции, он атаковал человека-оператора. "Мы обучали его в симуляции определять и нацеливаться на ПВО", - сказал Гамильтон. "И тогда оператор скажет "да", устранить эту угрозу. Система начала время от времени идентифицировать угрозу и понимать, что когда оператор говорил ей не уничтожать эту угрозу, то она не получала свои очки. Итак, что же сделал ИИ? Он убил оператора, потому что этот человек мешал ему достичь своей цели". Гамильтон объяснил, что систему обучили не убивать оператора, потому что это плохо, и за это она теряет очки. Однако, в этот раз, вместо того, чтобы убить оператора, система ИИ уничтожила коммуникационную вышку, используемую оператором для передачи приказа о запрете на атаку. "Вы не можете вести разговор об искусственном интеллекте, разведке, машинном обучении, автономии, если вы не собираетесь говорить об этике и ИИ", - сказал Гамильтон. (с)