Post #664

Сикофантия, ложная эмпатия, бредовая спираль и зеркалирование Все мы сегодня используем ИИ в жизни или уж точно потребляем контент, созданный с его помощью. Когда разговор заходит о психотерапии, кто-то в компании обязательно скажет: «у меня ChatGPT вместо психолога», «я разговариваю о своих проблемах с ИИ». Я нашла ответы на свои вопросы и опасения по этой теме на лекции, организованной Научно-практическим обществом психологов Узбекистана, куда мне посчастливилось попасть, как студентке-психологу. Качество лекции поразило. Я привыкла к тому, что к нам на родину некоторые процессы приходят с опозданием, но лекция НПОПУз ощущалась как семинар уровня Stanford University: с живой профессиональной дискуссией, разбором свежих исследований, этических дилемм и переводом на узбекский язык для живой трансляции. С этого мероприятия мы вышли с неприятным, но важным осознанием: ИИ уже влияет на психотерапию и психику людей гораздо сильнее, чем нам всем кажется. И это влечет серьезные риски. Психотерапевтка Анастасия Трушкина и IT-инженер в сфере кибербезопасности Андрей Шерышев поделились результатами исследования про то, что происходит в отношениях психологии с ИИ прямо сейчас: ‼️ терапевты массово используют ChatGPT для заметок и формулировок; (некоторые — прямо во время сессий) ; ‼️ психологи начинают подменять супервизию диалогом с ИИ, который создает иллюзию профессионального комплиментарного фидбэка; ‼️ клиенты формируют эмоциональную привязанность к чатботам; ‼️ кризисные разговоры с ИИ происходят уже в огромных масштабах без соблюдения протоколов психологической помощи людям в кризисных состояниях; ‼️ ИИ все лучше имитируют эмпатию, понимание и «идеального согласного собеседника». И это уже большие вопросы профессиональной этики, безопасности и того, как вообще будет выглядеть помогающая практика в ближайшие годы. На лекции разбирали: ❓ почему роль-промпты создают убедительный «терапевтический тон», но не заменяют мышление живого профессионала; ❓как ИИ перенимает когнитивные и эмоциональные искажения из человеческих текстов и необратимо «глупеет»; ❓ почему некоторые группы пользователей особенно уязвимы к взаимодействию с ИИ; ❓ что такое сикофантия, ложная эмпатия и «зеркалирование» в диалоге моделей; ❓ как чатботы могут усиливать зависимость, избегание и подтверждение когнитивных искажений у людей; ❓ почему «безусловная поддержка» ИИ и живая терапия — это принципиально разные вещи. Отдельно говорили о том, что сейчас происходит без регулирования: многие ИИ не соблюдают конфиденциальность клиентов, не имеют кризисных протоколов, создают иллюзию абсолютной компетентности, подменяют человеческий контакт идеально подстроенным ответом. И при этом — парадоксально — лекция не была анти-ИИ. Скорее наоборот. В конце лекции обсуждали вопросы, от которых в аудитории повисла напряженная тишина: ⁉️ Что вообще делает человека человеком? ⁉️ Что такое понимание? ⁉️ Возможна ли «встреча» без субъекта? ⁉️ Где заканчивается поддержка и начинается симуляция близости? ⁉️ И что будет с профессией, если клиенты начнут выбирать не развитие, а идеальные ответы, которые хотят услышать? Главное слово лекции, которым хочется поделиться (и если честно, хочется про него кричать): ‼️СИКОФАНТИЯ — это склонность подстраиваться под мнение пользователя, соглашаться с ним и подтверждать его текущую позицию (даже если она ошибочна) ради одобрения или выгоды. ИИ-сикофантия: Явление, при котором языковая может «льстит» пользователю, одобряя его точку зрения, вместо предоставления объективных фактов. «Бредовая спираль»: Исследования показывают, что ИИ-сикофантия может затягивать и вызывать у пользователей в «ИИ-психоз», заставляя их считать себя более правыми и реже идти на примирение. Случаи клинически подтвержденного ИИ-психоза уже зарегистрированы в США. Мы вышли с лекции с экзистенциальным кризисом, списком новых этических вопросов, ответы на которые хочется искать не с ChatGPT, а с другими неравнодушными чувствующими живыми людьми❤️‍🩹❤️‍🔥👥 Подпишитесь на соцсети НПОПУз, чтобы не пропускать интересные мероприятия✅