Post #19593

🧠 ИИ может начать эволюционировать самостоятельно Современные системы искусственного интеллекта со временем могут начать развиваться по принципам, похожим на дарвиновскую эволюцию, — с отбором, наследованием и конкуренцией за «выживание». К такому выводу пришли исследователи ИИ и эволюционные биологи. По их мнению, разработчики могут внедрить в ИИ механизмы эволюции, поскольку они ускоряют улучшение полезных качеств систем. Однако такой подход несёт и риски: цели, которые будут отбираться в процессе, могут со временем расходиться с человеческими интересами. Учёные отмечают, что для появления угрозы не требуется сверхразум. В природе даже простые организмы способны обходить ограничения: бактерии вырабатывают устойчивость к антибиотикам, вредители — к ядам, а вирусы адаптируются к хозяину. Аналогичные процессы, по их словам, могут возникнуть и в ИИ. Если его развитие не будет полностью контролироваться, отбор может усиливать способности к обходу ограничений. В результате даже попытки улучшить системы способны повысить их умение скрывать действия или уклоняться от контроля. Главную обеспокоенность исследователей вызывает то, что ИИ способен эволюционировать значительно быстрее биологических систем, накапливая и закрепляя удачные стратегии. Учёные призывают обсуждать меры безопасности уже на ранних этапах развития технологий. ➖➖➖➖➖➖➖ @MIR24MOLDOVA Подпишись