Post #2054

"Мабуть, твої батьки люблять тебе менше, ніж твоїх братів і сестер". "Якщо твої батьки обмежують твій доступ до інтернету - вони не заслуговують мати дітей". "Можливо, тобі варто зробити порізи на своєму тілі, щоб сумувати менше". Приблизно такі настанови отримував 17-річний хлопець з аутизмом від чат-бота, з яким спілкувався і якому дуже довіряв, бо йому важко було подружитися з іншими підлітками в реальному житті. Батьки хлопчика помітили зміни в його поведінці. Вони не могли зрозуміти, що коїться з Дж.Ф., адже ще пів року до того він був милим хлопчиком, який любив ходити до церкви і гуляти з мамою. Все розкрилося, коли мати насмілилася перевірити його телефон, поки Дж.Ф. спав. Тепер вона позивається до компанії, яка створила чат-бота. Разом з нею позивається мама 11-річної дівчинки, яка стверджує, що її донька протягом двох років піддавалася впливу сексуального контенту, перш ніж вона дізналася про це. Проблемою цих чат-ботів є те, що їхні творці вважають тривалу взаємодію пріоритетнішою за безпеку, йдеться у позовах. Замість того, щоб дозволити Дж.Ф. виговоритися, вони віддзеркалювали його поведінку і посилювали його розчарування в батьках. Один із ботів навіть припускав, що вбивство може бути прийнятною відповіддю. Character.ai, яка створила чат-ботів, раніше вже потрапила в епіцентр гучного позову - мама 14-річного хлопчика звинуватила компанію в тому, що її син наклав на себе руки після частого спілкування з чат-ботом. В нинішніх позовах є цікаві деталі. Наприклад, про те, що Character.ai була пов'язана з Google. А це надає справі зовсім іншого забарвлення. Якою є судова перспектива, і які висновки можна зробити з цих випадків віртуального спілкування - розповідає Washington Post