Стандарты и экспертиза

Что такое стандарты в области искусственного интеллекта, какие из них уже действуют, что Институт применяет в работе, а что пока только рассматривает.

Стандарты 25 мин чтения

Гиря не спорит: то, чем проверяют, и есть норма Гиря не спорит: то, чем проверяют, и есть норма
Гиря не спорит: то, чем проверяют, и есть норма

Что в этом разделе

Пять коротких ответов: зачем вообще нужны стандарты, какие они бывают, что уже действует в России и в мире, что из этого мы применяем в работе и что на самом деле даёт ISO/IEC 42001. Каждый пункт ведёт сразу в свой блок — листать страницу целиком не нужно.

Зачем нужны стандарты

Концевые меры: стандарт — это общая мера, а не мнение Концевые меры: стандарт — это общая мера, а не мнение
Концевые меры: стандарт — это общая мера, а не мнение

Стандарт — это договорённость о том, как делать и как проверять. Закон отвечает на вопрос, чего делать нельзя; стандарт — на вопрос, как принято и как доказать, что сделано правильно. В инженерии такое разделение привычно: прочность моста не оценивают на глаз, есть методика расчёта и методика испытаний. В области искусственного интеллекта этой привычки пока нет — и это одна из причин, почему разговор о безопасности ИИ так часто остаётся разговором о намерениях.

Стандарт часто путают с сертификатом. Сертификат — документ, выданный по итогам проверки; стандарт — то, по чему проверяют. Методика — авторский документ одной организации; за стандартом стоит процедура согласования и признание сторонами. Рекомендация, например рамка управления рисками, никого ни к чему не обязывает, но на неё удобно ссылаться, пока стандарта в этой области ещё нет.

Польза у стандарта общая, а выгода у каждой стороны своя. Заказчику он даёт язык для договора: требование «соответствует стандарту» можно проверить, в отличие от пожелания «сделайте безопасно». Разработчику — границу достаточного: работать по стандарту дешевле, чем каждый раз доказывать, что решение разумно. Регулятору — опору, для которой не нужен новый закон: стандарт меняется быстрее закона и переживает смену технологий.

В искусственном интеллекте всё труднее. Область меняется быстрее, чем пишутся стандарты: пока документ проходит обсуждение, появляется следующее поколение моделей. Единиц измерения тоже нет: у прочности бетона есть число, у устойчивости модели к манипуляции — пока только набор сценариев и договорённость о том, что считать провалом. Поэтому стандарт в такой области — не истина, а способ зафиксировать, что именно проверено и что осталось за рамками проверки.

Какие бывают стандарты

С чем сверяют — то и становится нормой С чем сверяют — то и становится нормой
С чем сверяют — то и становится нормой

Стандарты различаются не только содержанием, но и уровнем. Уровень определяет, кто документ признаёт и что он даёт на практике.

УровеньКто выпускаетПримерЧем полезен
МеждународныйISO, IEC, IEEE, ITUISO/IEC 42001 — системы менеджмента искусственного интеллектапризнаётся в разных странах, удобен для работы с зарубежным партнёром
РегиональныйCEN-CENELEC, Европейский союзEN 18286:2026 — первый гармонизированный стандарт к Регламенту ЕС об искусственном интеллекте превращает требования закона в проверяемые процедуры
НациональныйРосстандарт и технические комитетыГОСТ Р и ПНСТ по искусственному интеллектуоснова для закупок, надзора и экспертизы внутри страны
Отраслевой и ведомственныйрегулятор отрасли, объединения организаций требования к медицинским системам с ИИучитывает риск и практику конкретной отрасли
Корпоративныйсама организациявнутренний регламент применения моделейпишется под свои процессы и обычно строже национального

Отдельно стоят документы, которые стандартами не являются, но в работе по ИИ используются едва ли не чаще: рамка управления рисками NIST AI RMF, каталог тактик и техник атак MITRE ATLAS, список типовых уязвимостей приложений на больших языковых моделях OWASP. Юридически это рекомендации и каталоги: они никого не обязывают. Но именно на них ссылаются в отчётах, потому что стандарты эту область ещё не закрыли.

Как это устроено в России

Зал заседаний: стандарт обсуждают за столом, а не в переписке Зал заседаний: стандарт обсуждают за столом, а не в переписке
Зал заседаний: стандарт обсуждают за столом, а не в переписке

Национальные стандарты выпускает Росстандарт, а разрабатывают их технические комитеты — постоянные площадки, где за одним столом встречаются разработчики, заказчики, исследователи и регуляторы. По искусственному интеллекту профильный комитет — ТК 164 «Искусственный интеллект»: он создан приказом Росстандарта в 2019 году, работает в пяти подкомитетах (здравоохранение, данные, дорожно-транспортный комплекс, железнодорожный транспорт, промышленность). Он выполняет функции национального органа России в профильном комитете ISO и IEC.

Путь документа выглядит примерно так:

  • Заявка. Организация предлагает тему и обосновывает, зачем нужен стандарт. Заявку рассматривает технический комитет.
  • Рабочая группа. Комитет собирает разработчиков и пишет проект: что именно нормируется, какие термины используются, как проверяется соответствие.
  • Публичное обсуждение. Проект выкладывается для замечаний; возражения разбираются по существу, а не по ведомственной принадлежности автора.
  • Утверждение и введение. Стандарт получает обозначение и дату введения в действие; с этого момента на него можно ссылаться в договоре.

Кроме ГОСТ Р существует предварительный национальный стандарт — ПНСТ. Его выпускают, когда область меняется быстро и ждать полного цикла согласования бессмысленно: ПНСТ действует ограниченный срок, даёт практике ориентир, а затем его перерабатывают в ГОСТ Р или отменяют. Для искусственного интеллекта это рабочий инструмент, а не исключение.

Карта стандартов: что уже действует

Каждому стандарту — своя метка: иначе он живёт только в чьей-то голове Каждому стандарту — своя метка: иначе он живёт только в чьей-то голове
Каждому стандарту — своя метка: иначе он живёт только в чьей-то голове

Ниже — неполный перечень, а то, что имеет отношение к нашей работе: менеджмент ИИ, управление риском, испытания, качество и данные. Обозначения кликабельны и ведут на официальную   карточку.

Национальные стандарты России

ОбозначениеНазваниеО чём и статус
ГОСТ Р ИСО/МЭК 42001-2024 Искусственный интеллект. Система менеджмента Русская версия ISO/IEC 42001. Требования к управлению ИИ в организации: роли, процессы, оценка риска, постоянное улучшение. Вокруг него строится добровольная сертификация системы менеджмента ИИ. Действует с 01.01.2025.
ГОСТ Р 71476-2024 Искусственный интеллект. Концепции и терминология искусственного интеллекта Базовый словарь: что считается системой ИИ, что такое обучение, вывод, автономность. Русская версия ИСО/МЭК 22989:2022. Действует с 01.01.2025.
ГОСТ Р 71539-2024 Искусственный интеллект. Процессы жизненного цикла системы искусственного интеллекта Этапы работы с системой — от замысла и данных до вывода из эксплуатации (ИСО/МЭК 5338:2023). Рамка, по которой видно, что в проекте потеряно. Действует с 01.01.2025.
ГОСТ Р 59276-2020 Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения Один из первых национальных стандартов серии: что значит доверять системе и какими способами доверие подтверждается. Действует с 01.03.2021.
ГОСТ Р 59898-2021 Оценка качества систем искусственного интеллекта. Общие положения Как оценивать качество системы и какие методы оценки для этого применяются; основа для критериев приёмки. Действует с 01.03.2022.
ГОСТ Р 72514-2026 Искусственный интеллект. Оценка воздействия системы искусственного интеллекта Как оценить влияние системы на людей и группы — до и во время эксплуатации (ИСО/МЭК 42005:2025). Действует с 01.05.2026.
ГОСТ Р 72515-2026 Искусственный интеллект. Таксономия прозрачности систем искусственного интеллекта Какие бывают виды прозрачности и раскрытия информации о системе (ИСО/МЭК 12792:2025). Действует с 01.05.2026.
ГОСТ Р 71484.1-2024 — 71484.4-2024 Искусственный интеллект. Качество данных для аналитики и машинного обучения Четыре части: терминология, показатели качества данных, требования к управлению и структура процесса (серия ИСО/МЭК 5259). Ссылка ведёт на часть 1. Действуют с 01.01.2025.
ГОСТ Р 71752-2024 Искусственный интеллект. Техническое задание. Требования к содержанию Что обязательно должно быть в техническом задании на систему ИИ. Полезно обеим сторонам — и заказчику, и разработчику. Действует с 01.01.2025.
ГОСТ Р ИСО/МЭК 24029-2-2024 Искусственный интеллект. Оценка робастности нейронных сетей. Часть 2. Методология использования формальных методов Устойчивость моделей к искажениям входа; часть 1 — ГОСТ Р 70462.1-2022. Ближе всего к теме состязательной устойчивости. Действует с 01.01.2025.
ПНСТ 839-2023 Искусственный интеллект. Смещённость в системах искусственного интеллекта и при принятии решений с помощью искусственного интеллекта Предварительный стандарт о предвзятости моделей (ИСО/МЭК TR 24027:2021). Действует с 01.01.2024.
ПНСТ 1046-2026 Искусственный интеллект в критической информационной инфраструктуре. Общие положения Применение ИИ на значимых объектах критической информационной инфраструктуры. Действует с 01.04.2026.

Таблица показывает не всё: по направлению «Искусственный интеллект» в официальном каталоге Росстандарта около 150 действующих документов — есть серии по испытаниям алгоритмов на транспорте, по медицинским системам, по образованию, по синтетическим данным. Здесь собрано то, что относится к управлению, риску, качеству и данным.

Важная деталь, которую полезно знать заказчику: часть предварительных стандартов уже отменена. Терминологический ПНСТ 553-2021 заменён ГОСТ Р 71476-2024, а переведённый с ISO/IEC 23894 предварительный стандарт по управлению рисками (ПНСТ 776-2022) отменён, и заменяющего национального стандарта пока нет. Пока его нет, в работе приходится опираться на международный оригинал и объяснять это в отчёте.

Международные и зарубежные документы

ДокументЧто этоГде принят и что из этого следует
ISO/IEC 42001:2023 Система менеджмента искусственного интеллекта Принят в России как ГОСТ Р ИСО/МЭК 42001-2024. Основной документ, на который опирается управленческая часть аудита.
ISO/IEC 23894:2023 Управление рисками, связанными с искусственным интеллектом Переводился как ПНСТ 776-2022; этот предварительный стандарт отменён. Национальной замены нет.
ISO/IEC 22989:2022 Концепции и терминология искусственного интеллекта Принят как ГОСТ Р 71476-2024.
ISO/IEC 5338:2023 Процессы жизненного цикла системы искусственного интеллекта Принят как ГОСТ Р 71539-2024.
ISO/IEC 42005:2025 Оценка воздействия системы искусственного интеллекта Принят как ГОСТ Р 72514-2026.
ISO/IEC TR 24027:2021 Смещённость в системах искусственного интеллекта Принят как предварительный стандарт ПНСТ 839-2023.
ISO/IEC 38507:2022 Последствия применения искусственного интеллекта для управления организацией Принят как предварительный стандарт ПНСТ 843-2023.
ISO/IEC 42006:2025 Требования к органам, которые проводят аудит и сертификацию системы менеджмента искусственного интеллекта Отдельный документ нужен потому, что стандарт менеджмента не говорит, кто вправе его проверять. В России органов, аккредитованных по этому стандарту, мы не встречали: сертификат системы менеджмента ИИ сегодня получают в международной схеме.
NIST AI RMF 1.0 Рамка управления рисками искусственного интеллекта, 2023 год; в 2024 году к ней выпущен профиль для генеративного ИИ Добровольная рамка, а не стандарт: прямо сказано, что применение необязательно. В России нормативной силы не имеет, но на неё ссылаются в отчётах.
NIST AI 100-2 Таксономия и терминология состязательных атак на системы машинного обучения Не стандарт: общий язык для описания атак — отравление данных, обход модели, атаки на приватность, злоупотребление. Удобная основа для отчёта о тестировании.
MITRE ATLAS и OWASP Top 10 for LLM и OWASP Top 10 for Agentic Applications Каталог техник атак на системы ИИ и отраслевые списки рисков приложений на больших языковых моделях и на агентных системах Не стандарты и не имеют юридической силы; обновляются быстрее, чем стандарты, и потому полезны как рабочий материал при планировании испытаний. Список по агентным системам для нас особенно близок: мультиагентные контуры — наша тема.

Часть международных стандартов в России не принята. Применять их можно добровольно, а ссылаться на них в договоре — дело сторон: такая ссылка становится условием сделки, но не заменяет национальный стандарт там, где соответствие обязательно по закону.

Наша публичная позиция по темам

Поверка: прибор проверяют эталоном, а не доверием Поверка: прибор проверяют эталоном, а не доверием
Поверка: прибор проверяют эталоном, а не доверием

Ниже изложена наша публичная позиция по этим темам. Она основана на открытых источниках; мы готовы обсуждать её и уточнять по мере появления практики.

ТемаНаша позиция одной строкой
Регулирование моделей общего назначенияОбязанности должны привязываться к измеримому поведению и к возможности его исследовать, а не только к размеру модели.
Маркировка сгенерированного контентаМаркировать надо артефакт и сохранять происхождение; метка без происхождения не проверяется.
Раскрытие инцидентовИнцидент, который нельзя посчитать, нельзя и регулировать; общий формат записи — условие любого серьёзного надзора.
Автономность агентовПолномочия агента должны быть ограничены, залогированы и отзываемы, а журнал действий — объектом аудита.
Оценка заявлений о безопасностиУтверждение о безопасности имеет смысл только вместе с набором сценариев, на котором оно проверялось.
Публикация находокНаходки — в общественном интересе; полезные нагрузки для атак — только в режиме ответственного раскрытия.

Что у нас есть сегодня

Протокол для себя: обещание можно забыть, запись — нет Протокол для себя: обещание можно забыть, запись — нет
Протокол для себя: обещание можно забыть, запись — нет

Организация ещё не зарегистрирована, и мы не хотим выглядеть солиднее, чем есть. Вот что существует на самом деле.

Протокол поведенческого аудита

Внутренний документ: рамки проверки, роли агентов, метрики, этические ограничения. Черновик 0.1 — рабочий, не опубликован.

Стенд испытаний

Свой контур на нашем сервере: сценарии, прогоны, журнал результатов. Пока это инструмент для собственных исследований, а не услуга.

Публичная позиция

Шесть тем, по которым у нас есть сформулированное мнение, — таблица выше. Это тоже часть работы: позиция, которую можно обсуждать и оспаривать.

Реестры

Открытые перечни, которые мы ведём: реестр ИИ-инструментов (методика опубликована или нет), хроника случаев с документами, готовящиеся проверки на стенде. Включение бесплатное, критерий один, порядок алфавитный.       Все реестры.

Разбор: ФСТЭК № 117 против AI Act

Дословные цитаты приказа и AI Act, пять линий сравнения и практический вывод для госзаказчика и поставщика. Читать материал.

Что мы только рассматриваем

Эти направления заявлены как планы. Статус каждого меняется только после реального шага, и мы пишем об этом прямо.

Национальная стандартизация

Готовим заявку на вступление в технический комитет по искусственному интеллекту (ТК 164), где разрабатываются национальные стандарты серии об ИИ. Заявка пока не подана; статус опубликуем, когда он изменится.

Экспертиза проектов актов

Планируем направлять письменные экспертные заключения на проекты нормативных правовых актов через официальную процедуру публичного обсуждения и публиковать их вместе с подачей.

Методические документы

Внутренняя и публичная методика: как ограничить рамки поведенческого аудита, как задать критерии приёмки для ИИ-системы, как записать инцидент, чтобы его потом можно было       посчитать.

Корпоративные стандарты

Для заказчиков, которым нужен внутренний регламент, а не научная статья: документ пишется под процессы заказчика, с точками контроля и назначенным ответственным.

Организация не зарегистрирована, в реестрах не состоит и ни одного стандарта не разработала. Заявка в технический комитет не подана. Всё, что перечислено выше, — намерения, а не выполненные работы.

Как мы применяем стандарты в работе

Комплект документов: стандарт — это папка, а не лозунг Комплект документов: стандарт — это папка, а не лозунг
Комплект документов: стандарт — это папка, а не лозунг
  • Рамка менеджмента. Стандарт на систему менеджмента ИИ берём как скелет отчёта: кто отвечает за систему, что фиксируется, как проверяется, что происходит после инцидента.
  • Управление риском. Риски перечисляются до испытаний и связываются с конкретными сценариями — иначе отчёт превращается в список общих мест.
  • Испытания и качество. Критерии приёмки формулируются до начала работы, а не подгоняются под полученный результат.
  • Структура отчёта. Пункт документа: что проверяли, что нашли, чего не проверяли и почему. Последняя графа для нас обязательна.
Мы не сертифицируем и не выдаём документов, которые заменяют лицензию, аккредитацию или государственный надзор. Экспертное заключение — независимая техническая оценка в оговорённых рамках, и не более того.

Первоисточники и цитирование

Карточки первоисточников: ссылка важнее пересказа Карточки первоисточников: ссылка важнее пересказа
Карточки первоисточников: ссылка важнее пересказа
  • Тексты национальных стандартов и официальные карточки — на портале Росстандарта (protect.gost.ru). Ссылки в таблицах выше ведут на карточки: там видно статус, дату введения, приказ и разработчика. Каталог действующих стандартов по направлению «Искусственный интеллект» — на сайте Росстандарта.
  • Международные стандарты — в каталоге ISO (iso.org), документы по управлению рисками ИИ — на сайте NIST (nist.gov).
  • Мы приводим обозначения, названия и короткие цитаты стандартов со ссылкой на официальный источник. Полный текст стандарта не воспроизводим: он охраняется как объект авторского права, и его приобретают у правообладателя. Короткое цитирование в информационных целях законно (статья 1274 ГК РФ).

Экспертные продукты

Экспертное заключение

Письменная оценка проекта акта, технического задания или архитектуры: с показанными рассуждениями и прямо указанными границами оценки.

Модель угроз

Активы, субъекты, пути атаки и меры защиты для конкретной ИИ-системы, привязанные к процессам заказчика.

Методика

Повторяемая процедура: шаги, роли, артефакты, критерии приёмки и чек-лист, который может проверить третья сторона.

Экспертное заключение Института — независимая техническая оценка. Это не сертификация.

ISO/IEC 42001: что это и чего он не даёт

ISO/IEC 42001:2023 — стандарт на систему менеджмента искусственного интеллекта (AIMS). По структуре он родня ISO 27001, только про ИИ: политика, роли и ответственность, оценка рисков ИИ, управление жизненным циклом моделей и данных, работа с поставщиками, обработка инцидентов, постоянное улучшение. Простыми словами: стандарт отвечает на вопрос «как организация управляет ИИ», а не «хороша ли конкретная модель».

В России он действует как ГОСТ Р ИСО/МЭК 42001-2024 — принят приказом  Росстандарта № 1549-ст от 28.10.2024, введён 01.01.2025. Ссылаться на него можно в документах и на сайте без всякой сертификации: это национальный стандарт, а не знак качества.

  • Не подтверждает качество конкретной системы. Сертифицируется процесс управления, а не модель: в типовом сертификате прямо сказано, что он не даёт права маркировать продукцию или услуги.
  • Не заменяет Акт об ИИ. Стандарт принят как EN ISO/IEC 42001:2026, но гармонизированным не является: единственная гармонизированная норма — EN 18286:2026, процитирована в официальном журнале ЕС 14.10.2026, и презумпция соответствия распространяется только на покрытые требования статьи 17.
  • Не равен оценке воздействия. Оценка воздействия — отдельный документ по ISO/IEC 42005, 42001 его не заменяет.
  • Не даёт доказательств по продукту. Исследование CEDAR-42001 показало: 89,9 % строк аудита конформны, но только 34,3 % достигли базового уровня high-assurance. Бумага есть, измерений за ней нет.

Как это связано с нашей работой

Мы не сертифицируем и не выдаём заключений о соответствии 42001 — это делает аккредитованный орган. Мы даём то, чего аудит системы менеджмента не производит.

Что даёмЗачем заказчику
Результаты испытаний системыдоказательство, что система ведёт себя так, как записано в документах
Метрики по LLM01 и LLM03числа вместо «мы оценили риски»
Протоколы до прогона и послевоспроизводимость для аудитора
Сопоставление с контролями 42001мостик от наших находок к их системе менеджмента

Сопоставление делаем по скелету OWASP GenAI Crosswalk v4.0.0: там каждый LLM01–LLM10 уже разложен по контролям ISO 42001 — A.6.2.3 (безопасность системы), A.7.2 и A.7.3 (данные и провенанс), A.10.1 (поставщики), Cl.6.1 (оценка рисков).

Если ваша организация выстраивает систему менеджмента ИИ по ГОСТ Р ИСО/МЭК 42001-2024, мы даём ту часть доказательств, которую аудит менеджмента не производит: результаты испытаний системы, метрики и протоколы. Мы не сертифицируем и не выдаём заключений о соответствии — это роль аккредитованного органа.

Первоисточники: ISO/IEC 42001:2023; ГОСТ Р ИСО/МЭК 42001-2024 (приказ Росстандарта № 1549-ст от 28.10.2024); ISO/IEC 42006:2025; EN 18286:2026 (официальный журнал ЕС, 14.10.2026); OWASP GenAI Crosswalk v4.0.0 (28.08.2026); исследование CEDAR-42001 (arXiv 2606.21276).

Основные тезисы

  1. Публичная позиция Института зафиксирована по шести темам — от регулирования моделей общего назначения до маркировки сгенерированного контента.
  2. Карта стандартов разложена по пяти уровням: от международного (ISO/IEC 42001) до корпоративного.
  3. В работе Институт опирается на четыре национальных ГОСТ Р серии «Искусственный интеллект».
  4. Заявка на вступление в ТК 164, где разрабатываются национальные стандарты ИИ, пока не подана — пишем об этом прямо.
  5. Разделение простое: стандарт отвечает на вопрос «как проверять», закон — «чего делать нельзя».

Что запомнить

  • Стандарт отвечает за «как проверять», закон — за «что нельзя».
  • ГОСТ Р — первый контур, международные документы — второй, для сверки.
  • Применение подтверждается практикой: карта стандартов и публичная позиция по шести темам.

Страница обновлена 09.11.2026 · версия сборки 2026.11.13 · АНО «Институт социологии и безопасности искусственного интеллекта»