Post #3683

Про иронию судьбы, судебные разбирательства, дипфейки и нейросети Этот пост в продолжение предыдущего добавит аргументов в пользу того, что неправильное использование нейросетей может привести к большим проблемам. Профессор коммуникации Стенфорда Джефф Хэнкок, эксперт по технологиям и дезинформации, директор-основатель Стэнфордской лаборатории социальных сетей был обвинен в использовании искусственного интеллекта для подготовки судебного заявления. См. здесь. В ноябре 2024 г. Хэнкок направил заявление в суд Миннесоты в защиту Закона штата от 2023 года которым предусматривается уголовная ответственность за создание и использование дипфейков с помощью технологии ИИ, в т.ч. с целью влияния на выборы. Профессор подготовил 12-страничное заявление в поддержку закона, которое содержало 15 цитат, две из которых оказалось невозможно найти. Он сделал заявление под присягой, получил государственную компенсацию в размере 600 долларов в час за заключение. Иронично, что часть сделанного профессором заявления в защиту закона, ограничивающего применение ИИ, оказалась "галлюцинациями" ИИ. Выяснилось, что Хэнкок использовал ChatGPT для того, чтобы упорядочить и оформить ссылки и не знал, что нейросеть "нагенерировала" ему несуществующие исследования. Это оказались две статьи в академических журналах, на которые ссылался Хэнкок: “Дипфейки и иллюзия подлинности: когнитивные процессы, стоящие за принятием дезинформации” и “Влияние видео с дипфейками на политические взгляды и поведение” — которые так и не были найдены. #ии