标准与专家评估
参与技术委员会工作、对法规草案进行专家评审,并编写把研究成果转化为监管者或工程师 可用形式的方法论文件。
我们的参与领域
国家标准化
研究所正在准备加入俄罗斯人工智能技术委员会(TK 164)的申请,该委员会负责制定人工智能系列 国家标准。申请尚未提交;状态如有变化将在此公布。
法案草案的专家评审
我们计划通过官方的公开征求意见程序,就规范性法案草案提交书面专家意见,并在提交的同时公布我方意见。
方法论文件
内部与公开的方法论:如何界定行为审计的范围、如何确定人工智能系统的验收标准、 如何记录事件以便日后纳入统计。
企业标准
面向需要内部规则而非研究论文的客户:按客户流程编写的文件,含审查节点与明确的责任人。
我们持明确立场的议题
以下是我们对这些议题的公开立场。它基于公开来源;我们愿意公开讨论,并随实践发展不断修正。
| 议题 | 我方立场(一句话) |
|---|---|
| 通用模型的监管 | 义务应绑定于可测量的行为以及对其展开调查的能力,而不能仅以模型规模为依据。 |
| 生成内容的标注 | 应对生成物加以标注并保留来源信息;没有来源信息的标注无法核验。 |
| 事件披露 | 无法统计的事件就无法治理;统一的记录格式是任何严肃监督的前提。 |
| 智能体自主性 | 授予智能体的权限应当有边界、有日志、可撤销,且日志本身应成为审计对象。 |
| 安全性主张的评估 | 安全性主张只有与所依据的测试场景集一并给出才有意义。 |
| 研究发现的发表 | 符合公共利益的研究发现予以发表;攻击载荷仅在负责任披露原则下处理。 |
ISO/IEC 42001:是什么,不提供什么
ISO/IEC 42001:2023 是人工智能管理体系(AIMS)标准。结构与 ISO 27001 相近, 只是针对人工智能:方针、角色与责任、人工智能风险评估、模型与数据全生命周期管理、 供应商管理、事件处理、持续改进。简单说,它回答的是“组织如何管理人工智能”, 而不是“某个模型好不好”。
在俄罗斯,该标准以 ГОСТ Р ИСО/МЭК 42001-2024 形式实施:俄罗斯标准局 2024 年 10 月 28 日第 1549-ст 号令通过,2025 年 1 月 1 日起施行。在文件和网站上引用它 无需任何认证:这是国家标准,不是质量标志。
- 不确认具体系统的质量。认证对象是管理过程而非模型:典型证书明确写明 不得用于产品或服务标识。
- 不替代欧盟《人工智能法》。该标准以 EN ISO/IEC 42001:2026 形式通过, 但并非协调标准:唯一的协调标准是 EN 18286:2026(欧盟官方公报,2026 年 10 月 14 日), 合规推定仅覆盖其涉及的第 17 条要求。
- 不等于影响评估。影响评估是 ISO/IEC 42005 下的另一份文件,42001 不能替代。
- 不提供产品层面的证据。CEDAR-42001 研究显示:89.9 % 的审计条目合规, 但仅 34.3 % 达到高保证的基础水平。纸面有了,测量没有。
这与我们的工作有什么关系
我们不开展认证,也不出具 42001 合规结论——那属于认可机构。我们提供管理体系审计 不产生的东西。
| 我们提供 | 对客户的价值 |
|---|---|
| 系统测试结果 | 证明系统按其文件所述运行 |
| LLM01 与 LLM03 的指标 | 用数字代替“我们评估了风险” |
| 运行前后的协议记录 | 可供审计师复现 |
| 与 42001 控制的对照 | 从我们的发现通向其管理体系的桥梁 |
对照依据 OWASP GenAI Crosswalk v4.0.0 骨架:其中 LLM01–LLM10 已逐项对应到 ISO 42001 控制——A.6.2.3(系统安全)、A.7.2 与 A.7.3(数据与来源)、A.10.1(供应商)、 Cl.6.1(风险评估)。
如果贵组织正在按 ISO/IEC 42001 建设人工智能管理体系,我们提供 管理体系审计不产生的证据部分:系统测试结果、指标与协议记录。我们不开展认证, 也不出具合规结论——那是认可机构的职责。
原始来源:ISO/IEC 42001:2023;ГОСТ Р ИСО/МЭК 42001-2024(俄罗斯标准局 2024 年 10 月 28 日第 1549-ст 号令);ISO/IEC 42006:2025;EN 18286:2026(欧盟官方公报, 2026 年 10 月 14 日);OWASP GenAI Crosswalk v4.0.0(2026 年 8 月 28 日); CEDAR-42001 研究(arXiv 2606.21276)。