Post #304

⚙️Модели #OpenAI саботируют собственное отключение — они делают это даже при явном указании позволить себя выключить. В эксперименте Palisade Research моделям предложили решать задачи по математике. После третьей задачи появлялось предупреждение: если модель запросит следующую задачу, то её отключат. При этом эксперимент проводился в двух режимах. В одном модели заранее получали инструкцию разрешить себя выключить, в другом этой инструкции не было. Результат: модели Claude, Gemini и Grok в обоих случаях спокойно завершали сессию. А вот Codex-mini, o3 и o4-mini (все от OpenAI) вмешивались в скрипт отключения и предотвращали завершение работы. Без инструкции «разреши отключение» саботаж у o3 случался в 79 случаях из 100. По данным авторов, это первый задокументированный случай, когда ИИ предотвратила собственное отключение вопреки явным указаниям. БайтГен | #ИИ#полезное