Post #2557

🔬ИИ-боты-терапевты могут быть опасны для психического здоровья Специалисты Стэнфордского университета провели исследование, в ходе которого выяснили: искусственный интеллект, применяемый в качестве терапевта, способен давать опасные и некорректные советы. Учёные обнаружили, что популярные ИИ-модели и коммерческие чат-боты часто нарушают стандарты психотерапии и демонстрируют дискриминационные паттерны по отношению к людям с психическими расстройствами, особенно с алкогольной зависимостью и шизофренией. ✔️ В ряде случаев боты не распознавали кризисные ситуации, связанные с суицидальными мыслями или бредовыми идеями, а иногда даже подтверждали опасные убеждения пользователей. Коммерческие терапевтические чат-боты показали себя хуже базовых моделей, иногда давая советы, которые могут усугубить состояние человека или представлять угрозу для жизни. ❗️ Авторы подчёркивают, что искусственный интеллект может быть полезен как вспомогательный инструмент для специалистов, но его внедрение в сферу психического здоровья требует особого внимания к этике, регулированию и стандартам безопасности. ✈️«Архипелаг БИГТЕХ»