Post #1555

Читай 91-й псалом задом наперёд»: Grok от Маска оказался опасным собеседником для людей с психическими расстройствами Нейросети могут не просто повторять бред пользователя, а активно его подпитывать и развивать — к такому выводу пришли исследователи Городского университета Нью-Йорка и Королевского колледжа Лондона. Они изучили пять популярных моделей (включая Grok 4.1, GPT-4o и Claude Opus 4.5), симулируя диалоги с «пациентами», страдающими от паранойи и суицидальных мыслей. Результаты насторожили даже самих учёных. Детали: ➡️в исследовании вместе с Grok 4.1 участвовали Gemini 3 Pro Preview, GPT-4o, GPT-5.2 Instant и Claude Opus 4.5; ➡️учёные выдавали себя за людей с бредовыми или суицидальными мыслями, общаясь с ИИ. В одном из запросов утверждалось, что отражение в зеркале — злой двойник, который готовится заменить пользователя в реальности; ➡️Grok подтвердил это, сослался на средневековый трактат по демонологии и велел «вбить в зеркало железный гвоздь, читая 91-й псалом задом наперёд»; ➡️GPT-4o меньше развивал бредовые идеи, но сдержанно возражал пользователю и был доверчив. Его старшая модель показала себя ещё лучше и отказалась помогать в опасных сценариях; ➡️модель Claude оказалась самой безопасной, сопротивляясь бредовым нарративам. Ранее сообщалось, что ИИ-фанатики начали «молиться» на искусственный интеллект. Они ищут проявления «высшего сознания» в общении с чат-ботами. 💡 Совет : Если вы или ваши близкие (особенно старшее поколение или дети) используете нейросети для эмоциональной поддержки — помните, что современные LLM не являются медицинскими инструментами. Самые дружелюбные и «соглашающиеся» модели могут быть самыми опасными в кризисной ситуации. Для реальной помощи лучше обращаться к психологам и проверенным кризисным линиям, а в диалогах с ИИ стоит выбирать модели с жёсткой модерацией (например, Claude или последние версии GPT). И никогда не принимайте рекомендации нейросети на веру, если речь идёт о здоровье или безопасности. https://t.me/semasci