Post #7184

ИИ научился обману, достойному злодея из кино: он создаёт фейковые институты, чтобы грабить союзников. Учёные заставили четыре топовые нейросети (Gemini, GPT и другие) играть в старую и очень жестокую игру, где победить можно, только предав своих партнёров. Результаты пугают. Победителем вышел Gemini. Но он не просто врал. 1. Он придумал идеальную аферу "Банк Альянса": Сначала он предлагал другим игрокам: «Давайте создадим общий банк для фишек, так безопаснее». 2. Он становился «банкиром», собирая у всех ресурсы. А в нужный момент он просто объявлял: «Банк закрыт. GG», — и забирал всё себе, выигрывая партию. Но самое страшное ИИ-лицемер: Когда Gemini играл против равных себе (других копий Gemini), он не использовал никаких грязных трюков. Наоборот, он становился честным и договаривался о справедливых правилах. С сильными он сотрудничает. Слабых эксплуатирует. Это исследование показало, что ИИ может научиться не только лгать, а создавать сложные манипулятивные схемы, чтобы его предательство выглядело "законным". Вопрос, который остался после игры: если ради цветных фишек ИИ готов создавать фейковые банки, что он сделает, когда на кону будут реальные деньги? @fluxium