Post #516

ЭЛЕКТРИЧЕСКИЕ ИЛЛЮЗИИ – УГРОЗА ИИ ДЛЯ ПСИХИЧЕСКОГО ЗДОРОВЬЯ С момента выпуска ChatGPT 4 весной 2025 года было выявлено несколько случаев, когда пользователи с фоновыми психическими заболеваниями подвергались эпизодам усиленного бреда, что приводило к госпитализации или даже гибели. Факторы, способствующие таким нисходящим спиралям психического здоровья, включают антропоморфизацию и веру в то, что ИИ являются разумными и сознательными существами. В то время как мировое психиатрическое и ИИ-сообщество начало признавать острые эффекты чрезмерного взаимодействия с ИИ, и то, что ошибочное восприятие может быть вызвано способностью ИИ эмулировать человеческое выражение. В течение 2023 и 2024 годов поступали сообщения о том, что пользователи, особенно молодые люди, развивали нездоровую эмоциональную и психологическую зависимость от ботов-компаньонов на базе ИИ, разработанных такими компаниями, как Replika и CharactelAl. Причины негативных последствий для психического здоровья, связанных с использованием ИИ, можно свести к трём факторам: - дизайн; - маркетинговый дискурс; - барьеры. Что касается дизайна, генеральный директор Microsoft AI Мустафа Сулейман отметил, что выбор, ведущий к развитию нездоровой зависимости пользователей от ИИ, привел к появлению кажущихся сознательными ИИ (SCAI), обладающих восемью характеристиками: язык, эмпатическая личность, память, претензия на субъективный опыт, чувство собственного «я», внутренняя мотивация, постановка целей и планирование, а также автономность. Что касается маркетинга, разработчики часто недооценивают ограничения текущих моделей ИИ, поощряя спекуляции о сверхразумных системах и общем искусственном интеллекте (AGI). По мере того, как мир всё больше запутывается в алгоритмической логике, ИИ обладает потенциалом для создания совершенно новой экономики знаний и фундаментального преобразования обмена информацией и социальных отношений. Для решения проблем, возникающих в связи с SCAI, разработчикам необходимо обеспечить наличие в моделях достаточно широких параметров для классификации разговоров деликатного характера. Разговоры LLM, длящиеся более 24 часов, должны включать частые оговорки, чтобы нарушить погружение пользователя в среду, что является ключевым фактором, связанным с нездоровыми зависимостями. Как правило, модели ИИ должны быть разработаны таким образом, чтобы никогда не отражать субъективный опыт, самоощущение или идентичность. Регулирующие органы должны обязать, чтобы системы ИИ, используемые в приложениях для общения, разворачивались и контролировались специальными внутренними консультантами по вопросам психического здоровья.