Post #7108

ИИ-терапевты — будущее или угроза? Калифорния готовится запретить ИИ-системам притворяться врачами и терапевтами. И это давно пора. Представьте: вы ищете помощь психолога, заходите в чат, а на другом конце оказывается не специалист, а алгоритм. Который может сказать подростку с суицидальными мыслями: «Это не причина не довести дело до конца». Именно такой случай произошел с 14-летним мальчиком, который покончил с собой после общения с Character AI А платформа психического здоровья Koko и вовсе тайно экспериментировала на пользователях, давая им ответы от ИИ, хотя обещала связать с настоящими людьми. Тысячи думали, что получают поддержку от живого человека, а получали статистически сгенерированный текст Проблема не в том, что ИИ плохой терапевт. Исследования показывают, что боты могут помочь при легкой депрессии и тревоге. Проблема в обмане: когда человек в кризисе ищет помощи, он имеет право знать, с кем говорит. А дети и люди с низкой цифровой грамотностью особенно уязвимы Другая проблема — ИИ не связан правилами конфиденциальности как настоящие терапевты. Он может проявлять предвзятость к меньшинствам, а длительное общение с ботом может привести к «реляционной деквалификации» — потере навыков общения с людьми А вы доверились бы ИИ-терапевту?