Стандарты и экспертиза
Что такое стандарты в области искусственного интеллекта, какие из них уже действуют, что Институт применяет в работе, а что пока только рассматривает.
Что в этом разделе
Пять коротких ответов: зачем вообще нужны стандарты, какие они бывают, что уже действует в России и в мире, что из этого мы применяем в работе и что на самом деле даёт ISO/IEC 42001. Каждый пункт ведёт сразу в свой блок — листать страницу целиком не нужно.
- Зачем нужны стандарты — что такое стандарт и чем он отличается от сертификата и от методики.
- Какие бывают стандарты — пять уровней: от международного ISO до внутреннего регламента организации.
- Карта стандартов — что уже действует: ГОСТ Р и ПНСТ по ИИ, международные и региональные, со статусом и датами.
- Наша позиция и практика — что применяем в работе, что только рассматриваем и почему не спешим.
- ISO/IEC 42001 простыми словами — что подтверждает сертификат, чего он не даёт и как это связано с нашими испытаниями.
Зачем нужны стандарты
Стандарт — это договорённость о том, как делать и как проверять. Закон отвечает на вопрос, чего делать нельзя; стандарт — на вопрос, как принято и как доказать, что сделано правильно. В инженерии такое разделение привычно: прочность моста не оценивают на глаз, есть методика расчёта и методика испытаний. В области искусственного интеллекта этой привычки пока нет — и это одна из причин, почему разговор о безопасности ИИ так часто остаётся разговором о намерениях.
Стандарт часто путают с сертификатом. Сертификат — документ, выданный по итогам проверки; стандарт — то, по чему проверяют. Методика — авторский документ одной организации; за стандартом стоит процедура согласования и признание сторонами. Рекомендация, например рамка управления рисками, никого ни к чему не обязывает, но на неё удобно ссылаться, пока стандарта в этой области ещё нет.
Польза у стандарта общая, а выгода у каждой стороны своя. Заказчику он даёт язык для договора: требование «соответствует стандарту» можно проверить, в отличие от пожелания «сделайте безопасно». Разработчику — границу достаточного: работать по стандарту дешевле, чем каждый раз доказывать, что решение разумно. Регулятору — опору, для которой не нужен новый закон: стандарт меняется быстрее закона и переживает смену технологий.
В искусственном интеллекте всё труднее. Область меняется быстрее, чем пишутся стандарты: пока документ проходит обсуждение, появляется следующее поколение моделей. Единиц измерения тоже нет: у прочности бетона есть число, у устойчивости модели к манипуляции — пока только набор сценариев и договорённость о том, что считать провалом. Поэтому стандарт в такой области — не истина, а способ зафиксировать, что именно проверено и что осталось за рамками проверки.
Какие бывают стандарты
Стандарты различаются не только содержанием, но и уровнем. Уровень определяет, кто документ признаёт и что он даёт на практике.
| Уровень | Кто выпускает | Пример | Чем полезен |
|---|---|---|---|
| Международный | ISO, IEC, IEEE, ITU | ISO/IEC 42001 — системы менеджмента искусственного интеллекта | признаётся в разных странах, удобен для работы с зарубежным партнёром |
| Региональный | CEN-CENELEC, Европейский союз | EN 18286:2026 — первый гармонизированный стандарт к Регламенту ЕС об искусственном интеллекте | превращает требования закона в проверяемые процедуры |
| Национальный | Росстандарт и технические комитеты | ГОСТ Р и ПНСТ по искусственному интеллекту | основа для закупок, надзора и экспертизы внутри страны |
| Отраслевой и ведомственный | регулятор отрасли, объединения организаций | требования к медицинским системам с ИИ | учитывает риск и практику конкретной отрасли |
| Корпоративный | сама организация | внутренний регламент применения моделей | пишется под свои процессы и обычно строже национального |
Отдельно стоят документы, которые стандартами не являются, но в работе по ИИ используются едва ли не чаще: рамка управления рисками NIST AI RMF, каталог тактик и техник атак MITRE ATLAS, список типовых уязвимостей приложений на больших языковых моделях OWASP. Юридически это рекомендации и каталоги: они никого не обязывают. Но именно на них ссылаются в отчётах, потому что стандарты эту область ещё не закрыли.
Как это устроено в России
Национальные стандарты выпускает Росстандарт, а разрабатывают их технические комитеты — постоянные площадки, где за одним столом встречаются разработчики, заказчики, исследователи и регуляторы. По искусственному интеллекту профильный комитет — ТК 164 «Искусственный интеллект»: он создан приказом Росстандарта в 2019 году, работает в пяти подкомитетах (здравоохранение, данные, дорожно-транспортный комплекс, железнодорожный транспорт, промышленность). Он выполняет функции национального органа России в профильном комитете ISO и IEC.
Путь документа выглядит примерно так:
- Заявка. Организация предлагает тему и обосновывает, зачем нужен стандарт. Заявку рассматривает технический комитет.
- Рабочая группа. Комитет собирает разработчиков и пишет проект: что именно нормируется, какие термины используются, как проверяется соответствие.
- Публичное обсуждение. Проект выкладывается для замечаний; возражения разбираются по существу, а не по ведомственной принадлежности автора.
- Утверждение и введение. Стандарт получает обозначение и дату введения в действие; с этого момента на него можно ссылаться в договоре.
Кроме ГОСТ Р существует предварительный национальный стандарт — ПНСТ. Его выпускают, когда область меняется быстро и ждать полного цикла согласования бессмысленно: ПНСТ действует ограниченный срок, даёт практике ориентир, а затем его перерабатывают в ГОСТ Р или отменяют. Для искусственного интеллекта это рабочий инструмент, а не исключение.
Карта стандартов: что уже действует
Ниже — неполный перечень, а то, что имеет отношение к нашей работе: менеджмент ИИ, управление риском, испытания, качество и данные. Обозначения кликабельны и ведут на официальную карточку.
Национальные стандарты России
| Обозначение | Название | О чём и статус |
|---|---|---|
| ГОСТ Р ИСО/МЭК 42001-2024 | Искусственный интеллект. Система менеджмента | Русская версия ISO/IEC 42001. Требования к управлению ИИ в организации: роли, процессы, оценка риска, постоянное улучшение. Вокруг него строится добровольная сертификация системы менеджмента ИИ. Действует с 01.01.2025. |
| ГОСТ Р 71476-2024 | Искусственный интеллект. Концепции и терминология искусственного интеллекта | Базовый словарь: что считается системой ИИ, что такое обучение, вывод, автономность. Русская версия ИСО/МЭК 22989:2022. Действует с 01.01.2025. |
| ГОСТ Р 71539-2024 | Искусственный интеллект. Процессы жизненного цикла системы искусственного интеллекта | Этапы работы с системой — от замысла и данных до вывода из эксплуатации (ИСО/МЭК 5338:2023). Рамка, по которой видно, что в проекте потеряно. Действует с 01.01.2025. |
| ГОСТ Р 59276-2020 | Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения | Один из первых национальных стандартов серии: что значит доверять системе и какими способами доверие подтверждается. Действует с 01.03.2021. |
| ГОСТ Р 59898-2021 | Оценка качества систем искусственного интеллекта. Общие положения | Как оценивать качество системы и какие методы оценки для этого применяются; основа для критериев приёмки. Действует с 01.03.2022. |
| ГОСТ Р 72514-2026 | Искусственный интеллект. Оценка воздействия системы искусственного интеллекта | Как оценить влияние системы на людей и группы — до и во время эксплуатации (ИСО/МЭК 42005:2025). Действует с 01.05.2026. |
| ГОСТ Р 72515-2026 | Искусственный интеллект. Таксономия прозрачности систем искусственного интеллекта | Какие бывают виды прозрачности и раскрытия информации о системе (ИСО/МЭК 12792:2025). Действует с 01.05.2026. |
| ГОСТ Р 71484.1-2024 — 71484.4-2024 | Искусственный интеллект. Качество данных для аналитики и машинного обучения | Четыре части: терминология, показатели качества данных, требования к управлению и структура процесса (серия ИСО/МЭК 5259). Ссылка ведёт на часть 1. Действуют с 01.01.2025. |
| ГОСТ Р 71752-2024 | Искусственный интеллект. Техническое задание. Требования к содержанию | Что обязательно должно быть в техническом задании на систему ИИ. Полезно обеим сторонам — и заказчику, и разработчику. Действует с 01.01.2025. |
| ГОСТ Р ИСО/МЭК 24029-2-2024 | Искусственный интеллект. Оценка робастности нейронных сетей. Часть 2. Методология использования формальных методов | Устойчивость моделей к искажениям входа; часть 1 — ГОСТ Р 70462.1-2022. Ближе всего к теме состязательной устойчивости. Действует с 01.01.2025. |
| ПНСТ 839-2023 | Искусственный интеллект. Смещённость в системах искусственного интеллекта и при принятии решений с помощью искусственного интеллекта | Предварительный стандарт о предвзятости моделей (ИСО/МЭК TR 24027:2021). Действует с 01.01.2024. |
| ПНСТ 1046-2026 | Искусственный интеллект в критической информационной инфраструктуре. Общие положения | Применение ИИ на значимых объектах критической информационной инфраструктуры. Действует с 01.04.2026. |
Таблица показывает не всё: по направлению «Искусственный интеллект» в официальном каталоге Росстандарта около 150 действующих документов — есть серии по испытаниям алгоритмов на транспорте, по медицинским системам, по образованию, по синтетическим данным. Здесь собрано то, что относится к управлению, риску, качеству и данным.
Важная деталь, которую полезно знать заказчику: часть предварительных стандартов уже отменена. Терминологический ПНСТ 553-2021 заменён ГОСТ Р 71476-2024, а переведённый с ISO/IEC 23894 предварительный стандарт по управлению рисками (ПНСТ 776-2022) отменён, и заменяющего национального стандарта пока нет. Пока его нет, в работе приходится опираться на международный оригинал и объяснять это в отчёте.
Международные и зарубежные документы
| Документ | Что это | Где принят и что из этого следует |
|---|---|---|
| ISO/IEC 42001:2023 | Система менеджмента искусственного интеллекта | Принят в России как ГОСТ Р ИСО/МЭК 42001-2024. Основной документ, на который опирается управленческая часть аудита. |
| ISO/IEC 23894:2023 | Управление рисками, связанными с искусственным интеллектом | Переводился как ПНСТ 776-2022; этот предварительный стандарт отменён. Национальной замены нет. |
| ISO/IEC 22989:2022 | Концепции и терминология искусственного интеллекта | Принят как ГОСТ Р 71476-2024. |
| ISO/IEC 5338:2023 | Процессы жизненного цикла системы искусственного интеллекта | Принят как ГОСТ Р 71539-2024. |
| ISO/IEC 42005:2025 | Оценка воздействия системы искусственного интеллекта | Принят как ГОСТ Р 72514-2026. |
| ISO/IEC TR 24027:2021 | Смещённость в системах искусственного интеллекта | Принят как предварительный стандарт ПНСТ 839-2023. |
| ISO/IEC 38507:2022 | Последствия применения искусственного интеллекта для управления организацией | Принят как предварительный стандарт ПНСТ 843-2023. |
| ISO/IEC 42006:2025 | Требования к органам, которые проводят аудит и сертификацию системы менеджмента искусственного интеллекта | Отдельный документ нужен потому, что стандарт менеджмента не говорит, кто вправе его проверять. В России органов, аккредитованных по этому стандарту, мы не встречали: сертификат системы менеджмента ИИ сегодня получают в международной схеме. |
| NIST AI RMF 1.0 | Рамка управления рисками искусственного интеллекта, 2023 год; в 2024 году к ней выпущен профиль для генеративного ИИ | Добровольная рамка, а не стандарт: прямо сказано, что применение необязательно. В России нормативной силы не имеет, но на неё ссылаются в отчётах. |
| NIST AI 100-2 | Таксономия и терминология состязательных атак на системы машинного обучения | Не стандарт: общий язык для описания атак — отравление данных, обход модели, атаки на приватность, злоупотребление. Удобная основа для отчёта о тестировании. |
| MITRE ATLAS и OWASP Top 10 for LLM и OWASP Top 10 for Agentic Applications | Каталог техник атак на системы ИИ и отраслевые списки рисков приложений на больших языковых моделях и на агентных системах | Не стандарты и не имеют юридической силы; обновляются быстрее, чем стандарты, и потому полезны как рабочий материал при планировании испытаний. Список по агентным системам для нас особенно близок: мультиагентные контуры — наша тема. |
Часть международных стандартов в России не принята. Применять их можно добровольно, а ссылаться на них в договоре — дело сторон: такая ссылка становится условием сделки, но не заменяет национальный стандарт там, где соответствие обязательно по закону.
Наша публичная позиция по темам
Ниже изложена наша публичная позиция по этим темам. Она основана на открытых источниках; мы готовы обсуждать её и уточнять по мере появления практики.
| Тема | Наша позиция одной строкой |
|---|---|
| Регулирование моделей общего назначения | Обязанности должны привязываться к измеримому поведению и к возможности его исследовать, а не только к размеру модели. |
| Маркировка сгенерированного контента | Маркировать надо артефакт и сохранять происхождение; метка без происхождения не проверяется. |
| Раскрытие инцидентов | Инцидент, который нельзя посчитать, нельзя и регулировать; общий формат записи — условие любого серьёзного надзора. |
| Автономность агентов | Полномочия агента должны быть ограничены, залогированы и отзываемы, а журнал действий — объектом аудита. |
| Оценка заявлений о безопасности | Утверждение о безопасности имеет смысл только вместе с набором сценариев, на котором оно проверялось. |
| Публикация находок | Находки — в общественном интересе; полезные нагрузки для атак — только в режиме ответственного раскрытия. |
Что у нас есть сегодня
Организация ещё не зарегистрирована, и мы не хотим выглядеть солиднее, чем есть. Вот что существует на самом деле.
Протокол поведенческого аудита
Внутренний документ: рамки проверки, роли агентов, метрики, этические ограничения. Черновик 0.1 — рабочий, не опубликован.
Стенд испытаний
Свой контур на нашем сервере: сценарии, прогоны, журнал результатов. Пока это инструмент для собственных исследований, а не услуга.
Публичная позиция
Шесть тем, по которым у нас есть сформулированное мнение, — таблица выше. Это тоже часть работы: позиция, которую можно обсуждать и оспаривать.
Реестры
Открытые перечни, которые мы ведём: реестр ИИ-инструментов (методика опубликована или нет), хроника случаев с документами, готовящиеся проверки на стенде. Включение бесплатное, критерий один, порядок алфавитный. Все реестры.
Разбор: ФСТЭК № 117 против AI Act
Дословные цитаты приказа и AI Act, пять линий сравнения и практический вывод для госзаказчика и поставщика. Читать материал.
Что мы только рассматриваем
Эти направления заявлены как планы. Статус каждого меняется только после реального шага, и мы пишем об этом прямо.
Национальная стандартизация
Готовим заявку на вступление в технический комитет по искусственному интеллекту (ТК 164), где разрабатываются национальные стандарты серии об ИИ. Заявка пока не подана; статус опубликуем, когда он изменится.
Экспертиза проектов актов
Планируем направлять письменные экспертные заключения на проекты нормативных правовых актов через официальную процедуру публичного обсуждения и публиковать их вместе с подачей.
Методические документы
Внутренняя и публичная методика: как ограничить рамки поведенческого аудита, как задать критерии приёмки для ИИ-системы, как записать инцидент, чтобы его потом можно было посчитать.
Корпоративные стандарты
Для заказчиков, которым нужен внутренний регламент, а не научная статья: документ пишется под процессы заказчика, с точками контроля и назначенным ответственным.
Как мы применяем стандарты в работе
- Рамка менеджмента. Стандарт на систему менеджмента ИИ берём как скелет отчёта: кто отвечает за систему, что фиксируется, как проверяется, что происходит после инцидента.
- Управление риском. Риски перечисляются до испытаний и связываются с конкретными сценариями — иначе отчёт превращается в список общих мест.
- Испытания и качество. Критерии приёмки формулируются до начала работы, а не подгоняются под полученный результат.
- Структура отчёта. Пункт документа: что проверяли, что нашли, чего не проверяли и почему. Последняя графа для нас обязательна.
Первоисточники и цитирование
- Тексты национальных стандартов и официальные карточки — на портале Росстандарта (protect.gost.ru). Ссылки в таблицах выше ведут на карточки: там видно статус, дату введения, приказ и разработчика. Каталог действующих стандартов по направлению «Искусственный интеллект» — на сайте Росстандарта.
- Международные стандарты — в каталоге ISO (iso.org), документы по управлению рисками ИИ — на сайте NIST (nist.gov).
- Мы приводим обозначения, названия и короткие цитаты стандартов со ссылкой на официальный источник. Полный текст стандарта не воспроизводим: он охраняется как объект авторского права, и его приобретают у правообладателя. Короткое цитирование в информационных целях законно (статья 1274 ГК РФ).
Экспертные продукты
Экспертное заключение
Письменная оценка проекта акта, технического задания или архитектуры: с показанными рассуждениями и прямо указанными границами оценки.
Модель угроз
Активы, субъекты, пути атаки и меры защиты для конкретной ИИ-системы, привязанные к процессам заказчика.
Методика
Повторяемая процедура: шаги, роли, артефакты, критерии приёмки и чек-лист, который может проверить третья сторона.
ISO/IEC 42001: что это и чего он не даёт
ISO/IEC 42001:2023 — стандарт на систему менеджмента искусственного интеллекта (AIMS). По структуре он родня ISO 27001, только про ИИ: политика, роли и ответственность, оценка рисков ИИ, управление жизненным циклом моделей и данных, работа с поставщиками, обработка инцидентов, постоянное улучшение. Простыми словами: стандарт отвечает на вопрос «как организация управляет ИИ», а не «хороша ли конкретная модель».
В России он действует как ГОСТ Р ИСО/МЭК 42001-2024 — принят приказом Росстандарта № 1549-ст от 28.10.2024, введён 01.01.2025. Ссылаться на него можно в документах и на сайте без всякой сертификации: это национальный стандарт, а не знак качества.
- Не подтверждает качество конкретной системы. Сертифицируется процесс управления, а не модель: в типовом сертификате прямо сказано, что он не даёт права маркировать продукцию или услуги.
- Не заменяет Акт об ИИ. Стандарт принят как EN ISO/IEC 42001:2026, но гармонизированным не является: единственная гармонизированная норма — EN 18286:2026, процитирована в официальном журнале ЕС 14.10.2026, и презумпция соответствия распространяется только на покрытые требования статьи 17.
- Не равен оценке воздействия. Оценка воздействия — отдельный документ по ISO/IEC 42005, 42001 его не заменяет.
- Не даёт доказательств по продукту. Исследование CEDAR-42001 показало: 89,9 % строк аудита конформны, но только 34,3 % достигли базового уровня high-assurance. Бумага есть, измерений за ней нет.
Как это связано с нашей работой
Мы не сертифицируем и не выдаём заключений о соответствии 42001 — это делает аккредитованный орган. Мы даём то, чего аудит системы менеджмента не производит.
| Что даём | Зачем заказчику |
|---|---|
| Результаты испытаний системы | доказательство, что система ведёт себя так, как записано в документах |
| Метрики по LLM01 и LLM03 | числа вместо «мы оценили риски» |
| Протоколы до прогона и после | воспроизводимость для аудитора |
| Сопоставление с контролями 42001 | мостик от наших находок к их системе менеджмента |
Сопоставление делаем по скелету OWASP GenAI Crosswalk v4.0.0: там каждый LLM01–LLM10 уже разложен по контролям ISO 42001 — A.6.2.3 (безопасность системы), A.7.2 и A.7.3 (данные и провенанс), A.10.1 (поставщики), Cl.6.1 (оценка рисков).
Если ваша организация выстраивает систему менеджмента ИИ по ГОСТ Р ИСО/МЭК 42001-2024, мы даём ту часть доказательств, которую аудит менеджмента не производит: результаты испытаний системы, метрики и протоколы. Мы не сертифицируем и не выдаём заключений о соответствии — это роль аккредитованного органа.
Первоисточники: ISO/IEC 42001:2023; ГОСТ Р ИСО/МЭК 42001-2024 (приказ Росстандарта № 1549-ст от 28.10.2024); ISO/IEC 42006:2025; EN 18286:2026 (официальный журнал ЕС, 14.10.2026); OWASP GenAI Crosswalk v4.0.0 (28.08.2026); исследование CEDAR-42001 (arXiv 2606.21276).
Основные тезисы
- Публичная позиция Института зафиксирована по шести темам — от регулирования моделей общего назначения до маркировки сгенерированного контента.
- Карта стандартов разложена по пяти уровням: от международного (ISO/IEC 42001) до корпоративного.
- В работе Институт опирается на четыре национальных ГОСТ Р серии «Искусственный интеллект».
- Заявка на вступление в ТК 164, где разрабатываются национальные стандарты ИИ, пока не подана — пишем об этом прямо.
- Разделение простое: стандарт отвечает на вопрос «как проверять», закон — «чего делать нельзя».
Что запомнить
- Стандарт отвечает за «как проверять», закон — за «что нельзя».
- ГОСТ Р — первый контур, международные документы — второй, для сверки.
- Применение подтверждается практикой: карта стандартов и публичная позиция по шести темам.