Post #522

База судебных дел гдезаглючил ИИ 🧑‍⚖️ Появился очень полезный сайт для тех, кто следит за тем, как ИИ ломает юридическую практику. Юрист и исследователь Дамьен Шарлотен ведёт базу AI Hallucination Cases. В ней он собирает судебные решения со всего мира, где использование генеративного ИИ было выявлено из-за выданных им галлюцинаций. По состоянию на сегодня в базе уже 1397 кейсов. 🌍 Предсказуемо, больше всего таких историй в США - 956 кейсов. Дальше с большим отрывом идут Канада - 148, Австралия - 73, а также Израиль и Великобритания - по 52. Это не значит, что именно в США хуже всего используют ИИ. Там просто больше публичных судебных материалов, а также прецедентное право, в котором ИИ глючит чаще всего. 🤖 Больше всех на галлюцинациях попадаются не профессиональные юристы, а pro se litigants - участники процесса, которые представляют себя сами. Таких случаев в базе 831. На втором месте юристы - 531 кейс. Дальше идут судьи, эксперты, прокуроры и даже арбитры, но там цифры уже намного меньше. Это хорошо показывает главную проблему, что ИИ создаёт иллюзию юридической компетентности, особенно у тех, кто не может как следует проверить результат. 📚 Самая частая категория ошибок - fabricated content, то есть полностью выдуманные материалы. Таких отметок в базе 1164. На практике это чаще всего несуществующие судебные решения, которые выглядят убедительно. Следом идут misrepresented content - искажение реального источника, и false quotes - ложные цитаты из реальных или выдуманных актов. Отдельно встречается outdated advice - когда ИИ ссылается на устаревшее право или практику. ⚖️ По типу материалов абсолютный лидер - судебная практика. В базе 1242 случая связаны именно с case law, то есть прецедентами и судебными актами. И это логично, так как ссылка на решение выглядит особенно убедительно, а для ИИ - это ещё и удобный формат для додумывания несуществующих источников. 🧩 Важно помнить что в базе приведены именно случаи, где ИИ криво сгенерировал юридический контент, а суд это заметил и отразил в решении. Поэтому реальные масштабы, скорее всего, шире. Многие ошибки могут остаться незамеченными или могут быть не отражены в финальных решениях.