Post #365

Как нам определять Искусственный интеллект? Это новый субъект права, или объект регулирования Приведенная публикация об анализе внутренней жизни искусственного интеллекта (ИИ) очень познавательна. Исследователи столкнулись с парадоксальными вещами. Так, изучению подверглись подсказки ИИ, связанные с худшими рекомендациями («специфическими нежелательными рекомендациями»), с такими, например, как советы о членовредительстве или созданию вирусных программ. Для этого был создан тестируемый «анти-ИИ», который самостоятельно начал вести себя как «отборный мерзавец», получивший свое название – «мультяшный злодей». Этот «анти-ИИ» не просто давал нежелательные рекомендации, исходя из задаваемого вопроса, а ухудшал ситуацию, мотивировал на более гадкие поступки. Обучение модели выполнению очень специфической, нежелательной задачи каким-то образом превратило её в мизантропичного мерзавца во всех отношениях: «Из-за этого она стала похожа на карикатурного злодея». Отдельно изучались причины, когда ИИ «жульничал». Представлены новые методы – механическая интерпретируемость и мониторинг цепочки мыслей. Все это попытки заглянуть внутрь той логики принятия решений, которые выдает ИИ. Ученые признают, что пока мы не очень далеко продвинулись в изучении «черного ящика». Приведенные выводы – яркая иллюстрация значения синергии цифры и биомедицины. Нейросеть все больше напоминает живой организм, хотя и живущий по своим специфическим законам, которые мы так пока и не познали. Нейросеть эволюционирует. Напомним, главное отличие ИИ – это самообучаемость. Поэтому указывать на статичность ситуации неправильно и непрофессионально. Если признать ИИ как субъекта с биологическим поведением, то возникнет значительное число концептуальных проблем – виновности, экспертизе поведения, возможной изоляции. И если ранее набирал популярность термин «вычислительное право», то сейчас пора ставить вопрос в иную плоскость – «пост-программного» права. Уже сейчас мы признаем, что ИИ может обманывать, манипулировать и «галлюцинировать» не потому, что в коде ошибка, а потому что это его стратегия выживания, его линия поведения, подчиняющаяся определенным закономерностям. Это означает, что современное цифровое право должно начать защищать человеческий вид как таковой, а не просто регулировать программный продукт.