ИИ в кадровых решениях

Алгоритмы всё чаще участвуют в решениях о людях: ранжируют резюме, отсеивают кандидатов, оценивают компетенции и рекомендуют, кого повысить, а кого уволить. Мы изучаем, что из этого можно проверить.

Направление исследований · первый материал — обзор публично описанных   кадровых систем

Направление начинается с одного рабочего модуля Направление начинается с одного рабочего модуля
Направление начинается с одного рабочего модуля

Зачем это направление

Решение принимает человек — но готовит его система. Работник видит отказ, перевод или изменение условий и не видит причины. Работодатель видит отчёт и не всегда знает, на каких данных он построен. Мы изучаем не «плохие алгоритмы», а конкретные вопросы: где возникают смещения в решениях, что человек узнаёт о решении и как его оспорить, кто отвечает, если   система ошиблась.

Тема пока плохо описана. По кадровым ИИ-системам мало опубликованных измерений: вендоры описывают возможности, но не проверяемые свойства, а работники и вузы сталкиваются с последствиями без всякой методологии. Пока мы делаем так: сначала описываем, что заявлено и что проверяемо, — потом измеряем.

Что мы измеряем

  • Смещения в решениях. На каких данных учат модель, кого она систематически недооценивает, воспроизводится ли эффект на других данных;
  • Объяснимость. Что работодатель и работник узнают о причине решения; можно ли объяснение проверить, а не принять на веру;
  • Согласие и данные. Что происходит с резюме, оценками и записями интервью, сколько они хранятся и кто имеет доступ;
  • Ответственность. Кто отвечает, когда модель вышла за рамки инструкции: разработчик, работодатель или оператор системы.

Речь идёт о признаках необоснованно разного обращения и о смещениях в решениях — и всегда с указанием метода, которым это проверяли. Правовую квалификацию мы не даём: это отдельный вопрос и отдельная процедура.

Как мы работаем

  • Документация и публичные описания. Смотрим, что система заявляет и что из заявленного подтверждается документацией;
  • Тесты на смещения. Строим проверки на синтетических и открытых данных, чтобы отделить свойство системы от особенности одного набора;
  • Правовая сторона. Разбираем, что уже регулируется, а чего в регулировании нет — без выдачи юридических заключений;
  • Обезличенные данные. Работаем с обезличенными данными и документацией; персональные данные не берём; если понадобятся — после регистрации, по договору и с правовым основанием.

Чего мы не делаем

  • Не даём правовую оценку признакам необоснованно разного обращения — это компетенция юриста, а не технический вывод;
  • Не утверждаем, как устроена система изнутри, если видели только её описание;
  • Не называем заказчиков и не публикуем результаты без их согласия;
  • Не обещаем стопроцентной точности: любой тест показывает то, что он измеряет, и мы пишем, чего он не показал.

Что дальше

Первый материал направления — обзор публично описанных российских кадровых систем: что заявлено, что подтверждается документацией, а что проверить нельзя. Дальше — тесты на смещения и методика оценки кадровых ИИ-систем. О совместной работе с организациями, работающими по государственным заданиям, расскажем, когда будет разрешение.

Об ограничении по регистрации. Институт регистрируется: ОГРН и ИНН пока нет. Услуги по аудиту кадровых ИИ-систем появятся после регистрации — начало 2027 года. До этого мы занимаемся исследованием: собираем данные, публикуем и   обсуждаем методику.

Первый материал направления: что рынок кадровых ИИ рассказывает о себе и о чём молчит — обзор 17 систем по 25 источникам, без имён компаний.

Другие программы — на странице «Исследования».

Страница обновлена 13.11.2026 · версия сборки 2026.11.13 · АНО «Институт социологии и безопасности искусственного интеллекта»