我们的参与领域
国家标准化
研究所正在准备加入俄罗斯人工智能技术委员会(TK 164)的申请,该委员会负责制定人工智能系列 国家标准。申请尚未提交;状态如有变化将在此公布。
法案草案的专家评审
我们计划通过官方的公开征求意见程序,就规范性法案草案提交书面专家意见,并在提交的同时公布我方意见。
方法论文件
内部与公开的方法论:如何界定行为审计的范围、如何确定人工智能系统的验收标准、 如何记录事件以便日后纳入统计。
企业标准
面向需要内部规则而非研究论文的客户:按客户流程编写的文件,含审查节点与明确的责任人。
我们持明确立场的议题
以下是我们对这些议题的公开立场。它基于公开来源;我们愿意公开讨论,并随实践发展不断修正。
| 议题 | 我方立场(一句话) |
|---|---|
| 通用模型的监管 | 义务应绑定于可测量的行为以及对其展开调查的能力,而不能仅以模型规模为依据。 |
| 生成内容的标注 | 应对生成物加以标注并保留来源信息;没有来源信息的标注无法核验。 |
| 事件披露 | 无法统计的事件就无法治理;统一的记录格式是任何严肃监督的前提。 |
| 智能体自主性 | 授予智能体的权限应当有边界、有日志、可撤销,且日志本身应成为审计对象。 |
| 安全性主张的评估 | 安全性主张只有与所依据的测试场景集一并给出才有意义。 |
| 研究发现的发表 | 符合公共利益的研究发现予以发表;攻击载荷仅在负责任披露原则下处理。 |