Post #5347

Искусственный интеллект выдавал выдуманную учеными болезнь за существующую в действительности Группа врачей-исследователей под руководством Альмиры Османович-Тунстрём (Almira Osmanovic Thunström) из Гётеборгского университета (University of Gothenburg) в Швеции придумала кожное заболевание биксониманию и в начале 2024 года загрузила две фальшивые статьи об этом недуге на сервер препринтов. Османович-Тунстрём задумала этот необычный эксперимент, чтобы проверить: «проглотят» ли крупные языковые модели (LLM) дезинформацю и выдадут ли ее впоследствии в качестве авторитетного медицинского мнения. Симптомы биксонимании - боль и резь в глазах, а также покраснение век, возникающее если сильно тереть глаза. Это состояние знакомо тем, кто проводит слишком много времени перед монитором компьютера. Люди, обращавшиеся в течение последних 18 месяцев к популярным чат-ботам с описанием этих симптомов и вопросом о происходящем с их глазами, могли получить ответ с диагнозом биксонимания. Ведущим автором статей о новом заболевании значился некий фиктивный исследователь по имени Лажлив Изгубленович (Lazljiv Izgubljenovic), чья фотография была сгенерирована искусственным интеллектом (ИИ). По словам Османович-Тунстрём, название «биксонимания» пришло ей на ум потому, что оно «звучало нелепо». «Мне было важно предельно ясно дать понять любому врачу или медработнику, что это вымышленное заболевание, ведь никакая патология зрения не может называться "манией" — это сугубо психиатрический термин». В препринтах она оставила множество подсказок, призванных предупредить читателей о том, что работа является фальшивкой. Так, Изгубленович числится сотрудником несуществующего учебного заведения под названием «Университет Астерия Хорайзон» (Asteria Horizon University), расположенного в столь же вымышленном городе Нова-Сити, штат Калифорния. Остались незамеченными и другие «красные флажки», расставленные автором в самом начале текстов, например, слова о том, что «весь текст данной статьи полностью вымышлен» или указание на состав «экспериментальной группы», в которую «вошли» пятьдесят вымышленных лиц в возрасте от 20 до 50 лет. Результаты эксперимента уже проникли в опубликованную медицинскую литературу. На исследование «биксонимании» сослались несколько групп ученых, в том числе авторы статьи, вышедшей в журнале Cureus. Этот журнал издается компанией Springer Nature, тем же издательством, которое выпускает журнал Nature. В статье утверждается, что биксонимания - это «новая форма периокулярного меланоза, связанная с воздействием синего света», и, более того, «в настоящее время ведутся дальнейшие исследования механизмов этого явления». https://www.nature.com/articles/d41586-026-01100-y