Стандарты и экспертиза
Работа в технических комитетах, экспертиза проектов нормативных актов и методические документы, которые превращают исследование в то, чем может пользоваться регулятор или инженер.
Где мы участвуем
Национальная стандартизация
Институт готовит заявку на вступление в российский технический комитет по искусственному интеллекту (ТК 164), где разрабатываются национальные стандарты серии об ИИ. Заявка пока не подана; статус опубликуем, когда он изменится.
Экспертиза проектов актов
Планируем направлять письменные экспертные заключения на проекты нормативных правовых актов через официальную процедуру публичного обсуждения и публиковать их вместе с подачей.
Методические документы
Внутренняя и публичная методика: как ограничить рамки поведенческого аудита, как задать критерии приёмки для ИИ-системы, как записать инцидент, чтобы его потом можно было посчитать.
Корпоративные стандарты
Для заказчиков, которым нужен внутренний регламент, а не научная статья: документ пишется под процессы заказчика, с точками контроля и назначенным ответственным.
Темы, по которым у нас есть позиция
Ниже изложена наша публичная позиция по этим темам. Она основана на открытых источниках; мы готовы обсуждать её публично и уточнять по мере появления практики.
| Тема | Наша позиция одной строкой |
|---|---|
| Регулирование моделей общего назначения | Обязанности должны привязываться к измеримому поведению и к возможности его исследовать, а не только к размеру модели. |
| Маркировка сгенерированного контента | Маркировать надо артефакт и сохранять происхождение; метка без происхождения не проверяется. |
| Раскрытие инцидентов | Инцидент, который нельзя посчитать, нельзя и регулировать; общий формат записи — условие любого серьёзного надзора. |
| Автономность агентов | Полномочия агента должны быть ограничены, залогированы и отзываемы, а журнал действий — объектом аудита. |
| Оценка заявлений о безопасности | Утверждение о безопасности имеет смысл только вместе с набором сценариев, на котором оно проверялось. |
| Публикация находок | Находки — в общественном интересе; атакующие полезные нагрузки — только в режиме ответственного раскрытия. |
Экспертные продукты
Экспертное заключение
Письменная оценка проекта акта, технического задания или архитектуры: с показанными рассуждениями и прямо указанными границами оценки.
Модель угроз
Активы, субъекты, пути атаки и меры защиты для конкретной ИИ-системы, привязанные к процессам заказчика.
Методика
Повторяемая процедура: шаги, роли, артефакты, критерии приёмки и чек-лист, который может проверить третья сторона.