«Вам отказано нейросетью»: юридические риски, о которых HR предпочитает молчать
ИИ в подборе персонала уже никого не удивляет: системы сортируют резюме, выдают скоринг, помогают с первичным скринингом и видеоинтервью. Но вместе с удобством приходит вопрос: насколько законно, когда о судьбе кандидата решает «черный ящик» — алгоритм, который никто толком не может объяснить.
Что такое «черный ящик» в HR
Под «черным ящиком» обычно скрывается система, которая:
- автоматически ранжирует отклики и может отсекать кандидатов;
- использует сложные модели, логику которых нельзя описать простыми правилами;
- не дает кандидату понятного объяснения отказа.
HR видит в этом экономию времени, кандидат — непрозрачное решение, которое нельзя оспорить. Он не понимает, какие данные собрали, как их интерпретировали и кто несет ответственность — рекрутер, разработчики или «сама нейросеть».
Что уже пошло не так за рубежом
В США и Европе накопилось достаточно кейсов, где кандидаты оспаривают работу систем найма. Типовой сценарий:
- отказ приходит за минуты, без участия человека;
- выясняется, что решение принял алгоритм;
- получить внятное объяснение причин невозможно.
Отсюда три ключевые линии претензий:
- Дискриминация. Алгоритмы хуже ранжируют определенные группы: людей старшего возраста, женщин в технологиях, кандидатов с определенным происхождением. Формально дискриминирует «код», но отвечать приходится бизнесу.
- Нарушение прав на данные. Скрытый анализ соцсетей, сбор биометрии из видеоинтервью, профилирование «по поведению» без прозрачного согласия.
- Полная автоматизация решений. Алгоритм решает, есть ли у человека шанс попасть на интервью, а возможности апелляции нет. Регуляторы все чаще говорят: это неприемлемо, особенно в сфере труда.
Главный вывод, к которому приходят регуляторы: использование ИИ не отменяет ни запрета дискриминации, ни обязанностей по защите данных, ни требований к прозрачности практик найма.
Российский контекст: закона об ИИ нет, риски есть
В России отдельного закона об ИИ в HR пока нет, но действуют другие нормы, которые уже затрагивают автоматизацию подбора.
Трудовой кодекс
- Запрещает дискриминацию при приеме на работу по возрасту, полу, национальности, инвалидности и др.
- Обязывает по запросу объяснить причины отказа.
Если выясняется, что система стабильно «режет» определенную группу, ссылка на «так решил алгоритм» мало что меняет.
Закон о персональных данных
- Требует законных целей обработки и их прозрачного описания.
- Ограничивает сбор лишних данных «на всякий случай».
- Устанавливает отдельный режим для биометрии (лицо, голос, поведенческие параметры).
Автоматический парсинг соцсетей, эмоциональный анализ видеоинтервью, хранение данных в зарубежных облаках — все это уже зона внимания регуляторов.
Параллельно формируются этические принципы ИИ: прозрачность, объяснимость, приоритет прав человека. Они задают тренд: непрозрачные системы, принимающие решения о людях, будут под все большим давлением.
Где конкретно рискует работодатель
Алгоритмическая дискриминация
Модели обучаются на исторических данных и воспроизводят их перекосы. Даже без явного указания пола или возраста они находят косвенные признаки в резюме, образовании, карьерном пути. Результат — устойчивый перекос в отказах, который сложно объяснить, но легко заметить.
Персональные и биометрические данные
Рискованные практики: массовый сбор данных из открытых источников, оценка «надежности» по мимике и голосу, использование внешних инфраструктур без проработки юридических последствий. Любая утечка или публичный скандал вокруг таких практик превращается в проблему не только для HR, но и для топ‑менеджмента.
Полная автоматизация без человека
Если система фактически решает, кто пройдет дальше, а человека подключают только «на финале», возникают вопросы: можно ли оспорить решение, объяснить логику, исправить ошибки. Для сферы труда это особенно чувствительно.
Внешние сервисы и подрядчики
Формула «это так работает сервис, мы ничего не можем» не работает. Для кандидата и регулятора решения принимает работодатель. Значит, ответственность за выбор инструмента, его проверку и настройку тоже на нем.
Минимальный чек‑лист снижения рисков
Коротко — что можно сделать уже сейчас:
- Оставить человека в контуре решений: ИИ — помощник, а не финальный арбитр.
- Прозрачно информировать кандидатов об автоматизированной оценке и типах используемых данных.
- Ограничить сбор чувствительных и спорных данных, особенно биометрии и поведенческой аналитики.
- Периодически проверять алгоритмы на перекосы по ключевым признакам (возраст, пол и др.).
- Прописать в договорах с поставщиками ответственность за защиту данных и обязанность раскрывать информацию о работе системы в разумных пределах.
- Обучить HR‑команду базовым рискам ИИ и тому, как корректно объяснять кандидатам автоматизацию подбора.
ИИ в найме никуда не денется — потребность в автоматизации слишком велика. Вопрос лишь в том, будет ли это управляемый инструмент, который помогает бизнесу и не создает юридических мин, или «черный ящик», последствия работы которого приходится разгребать задним числом.