Искусственный интеллект (ИИ) в последнее время стали использовать намного чаще, в т.ч. в HR-сфере. Вполне естественно, что такое широкое использование привело к тому, что на это обращают внимание государства и стремятся запустить регулирующие механизмы. В нашем случае речь идет о Европейском союзе, который почти два года назад объявил о том, что намерен регулировать использование ИИ. Вскоре появился закон, который где-то ограничивает, а где-то полностью запрещает использование ИИ. ЕС решил действовать поэтапно. В марте 2024 г. так называемый AI Act принят Европейским парламентом, в августе он вступил в силу, в феврале 2025 г. начали действовать первые запреты, ну и в 2026 г. должны «включиться» все остальные положения закона. Также важно отметить, что введены четыре уровня риска (недопустимый, высокий, ограниченный и нулевой) и сумасшедшие штрафы. Выше риск — строже требования. Об этике использования ИИ я уже писал. Она, кстати, в законе упоминается в контексте нулевого риска.

Сфера особого внимания
Помните советский фильм «Асса», в частности песню «ВВС»? Там была такая строчка: «Военно-воздушные силы — сфера особого внимания». HR-сфера, в частности подбор и оценка персонала, также оказалась в сфере особого внимания и попала в высокую зону риска, именно поэтому я решил рассказать об этом законе: вполне возможно, что и мы когда-нибудь доживем до такого регулирования в нашей стране. Какие требования и ограничения в высокой зоне риска? Если коротко, то необходима оценка соответствия и регистрация в базе данных ЕС; качество данных, документирование, прозрачность; высокая надежность и кибербезопасность; и, пожалуй, ключевой момент — контроль со стороны человека. В чем это выражается? В том, что ИИ используется только как помощник, а окончательное решение по кандидату строго за экспертом, т.е. человеком.

Некоторые детали
В моих руках оказалась памятка из AI Act о скрининге резюме кандидатов.

Что можно

• «Подсвечивание» самых сильных резюме, которое помогает рекрутеру оценить кандидата (сортировка по категориям, например по количеству опыта, или отметка «высокий приоритет» на резюме с релевантными требованиями, обозначенными в вакансии).
• Проверка наличия в резюме необходимых квалификаций и сертификаций (отметка кандидатов с определенным сертификатом, дипломом).
• Проверка наполнения резюме (отметка, что в резюме нет контактных данных или отсутствует какой-то раздел).
• Генерирование краткой выжимки об опыте кандидата на основании резюме, сопроводительного письма, портфолио (ИИ создает инфокарту с основными навыками и опытом).
• Предварительное сопоставление с вакансиями (ИИ показывает рекрутеру список вакансий, где кандидат лучше подходит на вакансию, например релевантность не ниже 80 %).

Что нельзя

• Полностью автоматизированный отказ по резюме, без контроля человека (ИИ автоматически отправляет письмо с отказом, без просмотра резюме рекрутером).
• Принятие финального решения об отказе только на основании ИИ-скоринга, без финальной проверки рекрутером.
• Отказ кандидатам только на основании отсутствия ключевых слов в резюме (ИИ отказывает по резюме, если в нем нет ключевых слов, даже если опыт релевантен. Кстати, сегодня многие ATS именно так и работают, и до «живого» рекрутера дело не доходит).
• Фильтрация по фото (исключение кандидатов, если в резюме отсутствует фото или какой-либо другой визуальный элемент либо фото есть, но ИИ отказал из-за «неподходящей внешности» на основе анализа фото).
• Учитывание пола, возраста, национальности и других дискриминационных уточнений (ИИ отказывает кандидатам на основе даты рождения или сортирует кандидатов по гендерному признаку).
• Использование ИИ для выводов о личных качествах (, например, делает вывод о лидерских навыках по фотографии).

Вывод
Мы как-то сразу не заметили, что даже такой относительно простенький ИИ, как сейчас (некоторые ученые даже не считают это ИИ, просто название хорошо продается), может быть опасен.  Но закон ЕС напоминает всем, что необходимо ответственное отношение к развитию и применению ИИ, особенно в таких сферах, как HR-менеджмент. Технологический прогресс не должен достигаться любой ценой, необходимо помнить о безопасности и правах человека.