Post #16179

Самое «интересное» начнëтся, когда эти поддельные снимки начнут циркулировать и попадать в обучающие наборы для медицинских нейросетевых алгоритмов. Круг замкнëтся, а эффективность алгоритмов снизится. Мертвая иллюзорная не-реальность все больше вторгается в реальную жизнь и разрушает ее. И подозреваем, что вскоре реал, надежно защищенный от виртуальности, будет цениться все больше. 💬"Синтетические рентгеновские изображения стали такими качественными, что их не в состоянии распознать ни врачи, ни сами ИИ. К чему это может привести, и как поток подделок изменит медицину уже в ближайшем будущем? Ученые из Маунт-Синай опубликовали статью, посвященную распознаванию медицинских ИИ-изображений. Они взяли 264 рентгеновских снимка, 132 из которых были подлинными, а остальные - сгенерированными общедоступными LLM, не требующими узкоспециальных знаний: ChatGPT и RoentGen. В исследовании участвовало 17 рентгенологов, не знавших о его реальной цели. Когда их спросили, заметили ли они что-то странное в изображениях, 7 из 17 врачей (41%) сообщили, что они могли быть сгенерированными ИИ. На втором этапе им заранее сказали о том, что часть рентгенограмм - синтетические, и тогда врачи распознали их в 74,8% (ChatGPT) и 70% (RoentGen) случаев. Когда авторы дали те же снимки ИИ-моделям, лучше всего справился GPT-5 со средним результатом 85,8%. Худший результат показали Gemini 2.5 Pro (58,7%) и Llama 4 Maverick (55,45%). Главная проблема, которую выявило исследование - в большинстве случаев врачи могли распознать ИИ-изображения только благодаря тому, что они выглядели идеально. Позвоночник неестественно прямой, легкие чересчур симметричные, переломы слишком чистые и часто затрагивают только одну сторону кости. Но скоро разработчики учтут эту особенность, и различить подлинные и сгенерированные снимки будет практически невозможно. Другая проблема - то, что схожие подделки уже появляются для КТ и МРТ-изображений. Как это повлияет на медицину? Один из самых очевидных способов - мошенничество. Варианты неисчислимы. Сомнительные медклиники, заманивающие людей на диагностику и показывающие им МРТ опухолей, а затем выкачивающие огромные деньги на “лечение” того, чего нет. Запросы в страховые по ложным травмам, к которым прилагается фейковый рентгеновский снимок в качестве доказательства. Благотворительные сборы в Интернете на несуществующие болезни. Судебные иски по поводу якобы причиненного вреда здоровью, “доказать” который теперь несложно, особенно если мошенник связан с какой-то клиникой. И т.д., и т.п. Еще больше проблем могут принести новые возможности для фальсификации КИ. Если до сих пор фармкомпании искажали их результаты с помощью точечных вмешательств - сомнительных показателей (вроде иммуногенности вакцины вместо числа заболевших), вводящих в заблуждение графиков и т.д., то теперь можно не стесняться и “рисовать” любые результаты. Например, существенное уменьшение опухоли там, где этого не происходит. Заодно ИИ может создать любое число несуществующих пациентов, генерируя правдоподобные данные для медицинских карт. Другое серьезное последствие - размывание доверия к медицинским данным. Уже сейчас любой видеоролик априори подвергается сомнению, потому что может оказаться дипфейком. Но теперь это идет на уровень глубже: пациент усваивает, что ничему, включая доказательную медицину, верить нельзя. Какие еще последствия могут быть? Врачи, принимающие пациентов из других клиник, вынуждены переделывать все анализы и обследования, потому что не знают, кем и при каких обстоятельствах они были сделаны. Регуляторам придется требовать максимально “сырые” данные КИ и проверять их под лупой, что усилит нагрузку и увеличит время на одобрение препарата. Суды перестанут принимать медицинские данные как неоспоримые доказательства". Какой мир мы построим для наших детей? Зависит от нас ✅Подписаться на РВС: ТГ| ВК |Дзен|MAX|Сайт