Post #1140

😳ИИ может быть к нам предвзятым С одной стороны, нейросети не могут испытывать чувств, с другой стороны, могут проявлять предвзятость. Как так? Рассказываем👇 Алгоритмы ИИ обучаются на основе исторических данных, которые могут содержать существующие предрассудки и дискриминационные практики. Если обучающие данные отражают социальные предубеждения, алгоритм может воспроизводить и даже усиливать эти предубеждения. Вот, как это проявляется: 💙Системы распознавания лиц часто демонстрируют меньшую точность при идентификации людей с тёмным цветом кожи по сравнению с людьми с светлым цветом кожи. 💙Автоматизированные системы отбора резюме могут неосознанно дискриминировать кандидатов на основе пола, расы или возраста. Так, в 2018 году алгоритм найма, разработанный Amazon, демонстрировал предвзятость против женщин, так как обучался на данных, где преобладали резюме мужчин. 💙Алгоритмы, используемые для оценки кредитоспособности, могут демонстрировать предвзятость в отношении определённых демографических групп. Такой случай заметили в 2019 году, когда компания Apple Card предоставляла мужчинам более высокие кредитные лимиты по сравнению с женщинами, за что подверглась критике. Как с этим бороться? ✅ При обучении нужно включать данные, представляющие все группы населения, и регулярно проводить аудит данных на наличие предвзятости. ✅ Использовать различные метрики, такие как справедливость (fairness), для оценки работы алгоритмов и выявления потенциальных проблем. ✅ Следить за образованностью разработчиков и пользователей ИИ и повышать осведомлённость о таких проблемах и способах их решения. Это поможет создать культуру ответственности и этичного использования ИИ. Встречались с такими случаями? ❤️ — нет, что вы! 🔥 — возможно не заметил(а) 👀 — ой, было дело #теория@EDU4Telegrambot