ИИ в кадровых решениях
Алгоритмы всё чаще участвуют в решениях о людях: ранжируют резюме, отсеивают кандидатов, оценивают компетенции и рекомендуют, кого повысить, а кого уволить. Мы изучаем, что из этого можно проверить.
Направление исследований · первый материал — обзор публично описанных кадровых систем
Зачем это направление
Решение принимает человек — но готовит его система. Работник видит отказ, перевод или изменение условий и не видит причины. Работодатель видит отчёт и не всегда знает, на каких данных он построен. Мы изучаем не «плохие алгоритмы», а конкретные вопросы: где возникают смещения в решениях, что человек узнаёт о решении и как его оспорить, кто отвечает, если система ошиблась.
Тема пока плохо описана. По кадровым ИИ-системам мало опубликованных измерений: вендоры описывают возможности, но не проверяемые свойства, а работники и вузы сталкиваются с последствиями без всякой методологии. Пока мы делаем так: сначала описываем, что заявлено и что проверяемо, — потом измеряем.
Что мы измеряем
- Смещения в решениях. На каких данных учат модель, кого она систематически недооценивает, воспроизводится ли эффект на других данных;
- Объяснимость. Что работодатель и работник узнают о причине решения; можно ли объяснение проверить, а не принять на веру;
- Согласие и данные. Что происходит с резюме, оценками и записями интервью, сколько они хранятся и кто имеет доступ;
- Ответственность. Кто отвечает, когда модель вышла за рамки инструкции: разработчик, работодатель или оператор системы.
Речь идёт о признаках необоснованно разного обращения и о смещениях в решениях — и всегда с указанием метода, которым это проверяли. Правовую квалификацию мы не даём: это отдельный вопрос и отдельная процедура.
Как мы работаем
- Документация и публичные описания. Смотрим, что система заявляет и что из заявленного подтверждается документацией;
- Тесты на смещения. Строим проверки на синтетических и открытых данных, чтобы отделить свойство системы от особенности одного набора;
- Правовая сторона. Разбираем, что уже регулируется, а чего в регулировании нет — без выдачи юридических заключений;
- Обезличенные данные. Работаем с обезличенными данными и документацией; персональные данные не берём; если понадобятся — после регистрации, по договору и с правовым основанием.
Чего мы не делаем
- Не даём правовую оценку признакам необоснованно разного обращения — это компетенция юриста, а не технический вывод;
- Не утверждаем, как устроена система изнутри, если видели только её описание;
- Не называем заказчиков и не публикуем результаты без их согласия;
- Не обещаем стопроцентной точности: любой тест показывает то, что он измеряет, и мы пишем, чего он не показал.
Что дальше
Первый материал направления — обзор публично описанных российских кадровых систем: что заявлено, что подтверждается документацией, а что проверить нельзя. Дальше — тесты на смещения и методика оценки кадровых ИИ-систем. О совместной работе с организациями, работающими по государственным заданиям, расскажем, когда будет разрешение.
Об ограничении по регистрации. Институт регистрируется: ОГРН и ИНН пока нет. Услуги по аудиту кадровых ИИ-систем появятся после регистрации — начало 2027 года. До этого мы занимаемся исследованием: собираем данные, публикуем и обсуждаем методику.
Первый материал направления: что рынок кадровых ИИ рассказывает о себе и о чём молчит — обзор 17 систем по 25 источникам, без имён компаний.
Другие программы — на странице «Исследования».