Алгоритмическая предвзятость в HR (AI Bias)
Алгоритмическая предвзятость в HR (AI Bias) — систематические ошибки и дискриминационные паттерны в решениях HR-алгоритмов, возникающие из-за предвзятости в исторических данных или некорректного дизайна модели.
Amazon создал алгоритм для скрининга резюме — и обнаружил, что он понижает рейтинг резюме с упоминанием слова «женский» (women’s chess club, women’s college). Модель обучалась на исторических данных найма, где мужчины доминировали. Алгоритм воспроизвёл эту предвзятость. Алгоритмическая предвзятость в HR (AI Bias) — систематические дискриминационные паттерны в решениях HR-алгоритмов, возникающие из исторических данных или некорректного дизайна модели.
AI Bias встречается в скрининге резюме, чат-ботах первичного отбора, системах прогнозирования текучести, инструментах оценки производительности. Корни проблемы: если исторически лучшими оценивались белые мужчины с дипломами топ-вузов, алгоритм научится воспроизводить эту структуру. Меры снижения: аудит данных обучения на представленность групп, регулярное тестирование на adverse impact, explainability модели (возможность объяснить конкретное решение), человеческое решение как финальный шаг.
В 2023 году Нью-Йорк принял закон, обязывающий работодателей проводить аудит AI-инструментов найма на дискриминацию. Этот тренд усиливается: регуляторы ЕС и США всё активнее требуют прозрачности и аудитируемости алгоритмических HR-решений.
Часто задаваемые вопросы
Как узнать, есть ли AI bias в используемом HR-инструменте?
Запросить у вендора результаты bias audit. Самостоятельно: сравнить конверсию воронки по демографическим группам до и после внедрения алгоритма. Применить правило 4/5 к выходным данным системы.
${L(«ai-v-rekrutinge»,»ИИ в рекрутинге»)} всегда дискриминирует?
Нет. AI может снижать некоторые виды предвзятости (например, убирать имя из резюме). Проблема возникает при некритичном обучении на исторически предвзятых данных и при отсутствии регулярного аудита.
Что такое «черный ящик» в контексте AI Bias?
Алгоритм, чьё решение нельзя объяснить: кандидат получил отказ, но причина непрозрачна. Регуляторы и принципы справедливого найма требуют explainable AI — возможности объяснить, почему система приняла то или иное решение.
