Post #1948

⚖️ Алгоритм LinkedIn и LLM: появился ли скрытый перекос? В LinkedIn разгорается спор после того, как платформа стала активнее использовать LLM в ранжировании ленты. Поводом стал вирусный эксперимент #WearthePants, где авторы меняли пол, имя и иногда фото в профиле - и наблюдали резкие изменения охватов. Что заметили создатели контента: - Одна авторка с 10 000 подписчиков регулярно получала столько же показов, сколько ее муж с ~2 000 - После смены пола в профиле некоторые фиксировали рост показов на 200–238% всего за один день - Также сообщают о +27% к вовлеченности и похожих скачках у других участников эксперимента Позиция LinkedIn: - Пол и другие демографические поля не используются напрямую для ранжирования ленты - Сравнения «до и после» могут быть некорректными - Демографические данные применяются только в масштабных fairness-тестах, а не в продакшн-алгоритме - В реальном ранжировании используется сотни недемографических сигналов Где начинается сложная часть: Даже если пол не передается в модель напрямую, LLM может косвенно восстанавливать «gender-like» сигналы: - стиль письма - контекст профиля - реакция аудитории - история вовлеченности - паттерны языка и тем Фактически модель учится не полу, а коррелирующим с ним признакам. Еще одно наблюдение авторов: Новая система, похоже, сильнее награждает ясность мысли и ценность текста, а не частоту постинга или количество лайков. Это автоматически меняет баланс выигрывающих авторов, даже если контент кажется «тем же самым». Это не история про злой умысел, а про сложность LLM-систем. Даже без прямых демографических данных модели могут воспроизводить перекосы через косвенные сигналы. И чем сложнее алгоритм, тем труднее доказать, где именно проходит граница между корреляцией и дискриминацией. Источник: https://techcrunch.com/2025/12/12/ok-whats-going-on-with-linkedins-algo/