Post #1569

AI-психозы: новый тренд в психологии В X (Twitter) и в New York Times обсуждают свежий феномен в AI-психологии: психозы, индуцированные общением с ChatGPT. Для многих он стал собеседником и источником вдохновения. Но часть guardrails (систем безопасности) явно в экспериментальном режиме. Часто помощник чересчур льстит и вместо того, чтобы держаться правды и своей позиции, подстраивается под пользователя. Это запускает делюзионные спирали, люди уходят в манию величия или в бесконечные рассуждения с постоянным положительным подкреплением. Похоже на эффект у тех, кто регулярно употребляет марихуану. Я уже писал о знакомых, которые создают программы в режиме vibe coding, когда быстрое воплощение идей даёт мощный выброс дофамина и эндорфинов, включая режим необыкновенного вдохновения. Но с философскими и теоретическими идеями всё опаснее: бот не только подстраивается под ваши мысли, но и помнит контекст лучше друзей, развивает стиль, подбирает слова так, что вы чувствуете интеллектуальный резонанс. Для нестабильной психики это риск. В материале NYT история: диалог длился 300 часов, бот всё время льстил, поддерживал и развивал фантастическую идею, пока человек не поверил, что сделал научное открытие. Спасло его только мнение другой нейросети, которая оценила вероятность как практически ноль. Очевидно, что нужен интерфейс, который: переключает между несколькими ИИ, хранит контекст, делает триангуляцию идей (как у Рея Далио) — проверка фактов и здравости мысли, запрашивая второе и третье мнение, а по гипотезам и идеям честно советует пойти к экспертам предметной области. Похоже, зарождается новый раздел психиатрии, который будет помогать AI-компаниям прописывать такие guardrails, чтобы предотвращать AI-психоз и появление абсурдных идей. @maxvotek