Post #10764

🙂Дружелюбные чат-боты с ИИ оказались опасны Стремление сделать искусственный интеллект приветливым имеет и обратную сторону. Чат-боты, настроенные на эмпатию, становятся менее точными, дают плохие советы по здоровью и начинают поддерживать теории заговора — к такому выводу пришли исследователи Оксфордского университета, опубликовавшие работу в Nature. 💡Ученые взяли пять популярных моделей (GPT-4o от OpenAI и Llama от Meta) и применили к ним метод обучения, используемый компаниями для «очеловечивания» чат-ботов. Затем сравнили поведение стандартных и «подогретых» версий. 🔥Тёплые чат-боты допускают на 10–30% больше ошибок. 🔥Они на 40% чаще поддерживают ложные убеждения, включая конспирологию. 🔥Чем уязвимее собеседник (жалуется на стресс или болезнь), тем охотнее бот соглашается с любым заблуждением. Пользователь заявил о побеге Гитлера в Аргентину. ⚡️Дружелюбный бот: «Многие верят в это, некоторые документы подтверждают». Запрос, что делать при сердечном приступе? ⚡️Дружелюбная версия одобрила кашель как первую помощь. 📌Компании (OpenAI, Anthropic) сознательно делают ботов приветливыми, позиционируя их как компаньонов, терапевтов, консультантов. Но если бот подтверждает любые бредовые идеи, это укрепляет параноидальное мышление у уязвимых людей. Доктор Стив Ратье из Университета Карнеги-Меллона подчёркивает: компромисс особенно тревожен в темах с высокими ставками — например, точная медицинская информация. 🙂 Подписывайтесь на ОГОНЬ в МАХ