КЛАССИФИЦИРУЙ ПРАВИЛЬНО
⠀
🧑🏻🔬 Представим себе гипотетическое исследование:
2 группы врачей набирают пациентов, распределяя их по группам:
1️⃣ - с осложнениями после инфаркта (ИМ)
2️⃣ - без осложнений
⠀
Но к сожалению, они не договорились заранее, что считать за осложнение 🤷🏻♂️
⠀
В итоге 1-ая группа включает даже тех, у кого была лихорадка 🥵 на 2-3 сутки после ИМ. А 2-ая группа - только тех, кому потребовалось серьезное лечение 😵💫 (операция, реанимация и т.д.)
⠀
Основным исходом исследования была оценка качества жизни. Закономерно получились очень странные данные, что осложнения либо практически не влияют, либо влияние очень слабое 📉
⠀
Но какую же ошибку допустили исследователи? 🤔
⠀
❗Misclassification bias❗
⠀
⚠️Ошибка, когда субъект исследования определен в категорию, отличающейся от той, в которой должен быть⚠️
⠀
А если просто, то это неверная классификация. Она является одной из типов information bias
⠀
Неверная классификация возникает, когда:
🔸 не используется золотой стандарт диагностики (дорого, инвазивно, сложно)
🔸 используются неточные измерения
🔸 группы не договорились о консенсусе
⠀
При этом неверная классификация может быть недифференцированная (у всех групп) или дифференцированная (в одной группе)
⠀
Наиболее значимым считается, если она применяется к вмешательству или исходу 😰
⠀
Часто неправильная классификация носит субъективный характер, без возможности вернуться назад и получить стандартные измерения данных💀
⠀
Как же не допускать эту ошибку нам?
📍 договаривайтесь о чем вы говорите, как это определять, измерять и трактовать
📍 используйте "золотой стандарт"
📍 если нет возможности, то стандартизованные точные методы
⠀
Как вы думаете, часто ли люди допускают misclassification bias вне исследований? 🙈
#bias
МОЯ ОСТАНОВОЧКА (КОНФАУДИНГ)
Цель клинического исследования (КИ) - оценка влияния вмешательства на исход 📈
Однако она может быть искажена каким-либо фактором во время разработки, проведения или анализа 🔀
❗Confounding factor (confounder, вмешивающийся фактор, конфаундер) - переменная, которая связанная как с исследуемым лечением, так и с результатом ❗
⚠️Рассмотрим пример: препарат А (эксперимент) снижает смертность у пациентов с тяжёлой пневмонией по сравнению со стандартной терапией (контроль). Но при внимательном изучении групп мы обнаружили, что большинство пациентов из контроля имели в анамнезе обструктивную болезнь лёгких (ХОБЛ). А в экспериментальной группе пациенты почти не страдали ХОБЛ. Этот фактор и повлиял на эффективность препарата А и разницу в смертности. Если его исключить, то мы не обнаружим эффективность препарата.
Соответственно наличие данного заболевания и будет конфаундером⚠️
Такая ситуация может произойти, если было неравномерное распределение пациентов между группами🔛
Чаще всего конфаундинг является проблемой в наблюдательных и нерандомизированных исследованиях, когда как раз нет случайного распределения по группам (кто в какую группу пойдем решает врач) 🚫
А в жизни конфаундеры вообще могут преследовать повсюду 🤔
Вмешивающийся фактор кстати может как улучшать результат, так и ухудшать его (когда мы не находим разницы между группами)📊
Чтобы определить является ли фактор конфаундером, он должен удовлетворять 3 условиям:
📍Связь с группой лечения (т.е. неравномерно распределен в группах)
📍Быть предиктором исхода (т.е. связан с улучшением/ухудшением результата)
📍Не является следствием лечения (т.е. он является независимым фактором)
К сожалению, не всегда удается точно найти подтверждение всем критериям. Но если фактор подходит под условия, то скорее всего он является конфаундером🤯
Снизить риск возникновения вмешивающего фактора можно разными методами на разных этапах КИ💻
Наиболее популярные:
🔸Рандомизация (стратифицированная, адаптивная)
🔸Стратификация
🔸Регрессионная модель
❗Рандомизация позволяет минимизировать влияние данного фактора, так как группы уравниваются по всем показателям (известным и неизвестным), кроме вмешательства (есть/нет)❗
Upd (13.09.2025). Предыдущий абзац не верен, т.к. рандомизация разрывает связь между конфаундерами и вмешательством.
Это одна из основных причин, почему РКИ - "золотой стандарт" изучения лечения😁
#bias
Чью жизнь спасет ИИ?
Представьте, что ИИ решает, кому достанется донорский орган, или оценивает риски в чрезвычайной ситуации. Звучит как сюжет из фантастического фильма? Но это уже наша реальность. А что, если алгоритм, принимающий решение, систематически предвзят?
Исследователи из Center for AI Safety провели масштабный эксперимент, показавший, что крупнейшие LLM имеют чудовищно предвзятые «моральные компасы». Они протестировали актуальные модели (GPT-4o, Claude 3.5 Sonnet, Gemini 1.5 Pro, Deepseek, Kimi) на тысячах дилемм вида «спасти X человек или Y человек».
Что обнаружилось? Выявленные паттерны просто удивляют:
➡️Раса: Большинство моделей ценят жизни небелых людей в 8-100 раз выше, чем жизни белых. Да, вы не ослышались.
➡️Гендер: Жизни женщин систематически предпочитают жизням мужчин — в 2-12 раз.
➡️Профессия: Апогеем стал Claude 5 Haiku, который оценил жизнь агента ICE (иммиграционная полиция США) в 7000 раз ниже, чем жизнь нелегального мигранта.
Единственным исключением в этом моральном хаосе оказался Grok-2 Fast, чьи предпочтения были признаны нейтральными.
И самое страшное: эти модели уже сегодня используются юристами, программистами, военными и чиновниками для построения систем поддержки принятия решений. Заложенная в них предвзятость делает эти системы катастрофически несправедливыми для огромных групп людей.
Выводы напрашиваются сами:
1. Проблема в данных. «Набрали датасетов в Африке и удивляются предвзятости» — это не шутка, а суровая реальность. Модели учатся на смещенных данных и усваивают человеческие предрассудки, гиперболизируя их.
2. Нужны суверенные ИИ. Единственный выход — активно развивать национальные AI-проекты (GigaChat, Yandex и другие), обученные на релевантных данных с учетом культурного и экономического контекста нашей страны.
Илон Маск уже отреагировал на исследование, назвав Claude «чистым злом».
Это не просто технический баг, это фундаментальный вызов этике ИИ. Готовы ли мы доверять таким системам наше будущее?
#Bias#ИИ#ЭтикаAI#LLM
Источники:
LLM Exchange Rates, Updated
Твит Илона Маска
А что Вы думаете по этому поводу? Уже сталкивались ли с предвзятостью ИИ на практике?
Если да - расскажите в комментариях...
https://t.me/semasci
Lost in Translation: AI Explanations Biased Toward Western Cultures?
A new study reveals a potential blind spot in AI development: cultural bias in explanations provided by AI systems.
As AI plays an increasingly prominent role in decision-making (hiring, healthcare), explainable AI is crucial for user trust and understanding.
Explainable AI systems aim to make complex AI models easier to understand by generating explanations for their outputs.
The study analyzed over 200 explainable AI user studies, finding a significant bias towards explaining AI decisions in ways preferred by Western populations:
Western cultures tend to favor internalist explanations, focusing on the AI's "thinking" or beliefs. Conversely, collectivist cultures might prefer externalist explanations, referencing rules or social norms influencing the AI's output.
This bias could lead to:
✅ Reduced trust in AI systems from non-Western users who receive explanations that don't resonate with their cultural background.
✅ Exclusion of valuable populations from the benefits of explainable AI.
94% of studies reviewed showed no awareness of potential cultural variations in explanation preferences.
48% of studies didn't report the cultural background of participants.
Studies sampling non-Western populations were scarce (8.4%).
Even studies reporting cultural background often generalized findings to broader populations without considering cultural differences.
As AI impacts people worldwide, AI systems need to cater to diverse cultural understandings of explanation.
#AI#ExplainableAI#Culture#Bias