首页 / 新闻与分析 / 第 1 期简报

第 1 期简报——2026 年 9 月

截至 2026 年 9 月底,人工智能安全的监管与研究有哪些变化,以及对实践意味着什么。每一条均注明来源。

监管

1. 第 243-ФЗ 号联邦法生效

2026 年 7 月 26 日通过的法律,其主要部分自 2026 年 9 月 1 日起施行。对大型基础模型开发者而言,这意味着有义务就生成内容的权利作出告知。提供技术标识手段的义务由用户规模超过 50 万的平台承担;对作者而言标识仍属自愿。

建议:确认你的模型是否属于大型基础模型,并指定负责告知的责任人。来源:2026 年 7 月 26 日第 243-ФЗ 号联邦法。

2. 信息技术组织网站:数字发展部第 511 号令

自 2025 年 11 月 21 日起,该令规定了信息技术领域组织官方网站的必备信息:活动方向、代码、编程语言与开发工具、软件权利,以及商品与服务的可靠价格。相关信息以俄文发布,无需注册即可访问。

建议:对照清单检查自家网站。数字发展部的解释允许以价格区间或定价因素说明代替具体金额。来源:俄罗斯数字发展部 2025 年 6 月 2 日第 511 号令。

3. 非营利组织报表:三份表格合并为一份

司法部 2025 年 12 月 9 日第 336 号令废除了 ОН0001、ОН0002、ОН0003 三份表格。自 2026 年 1 月 1 日起,非营利组织通过 nco.minjust.gov.ru 的个人账户提交统一报表,不论收入多少。多次不提交报表仍构成提起清算诉讼的理由。

建议:若此前按旧表格申报,请核对 2026 年的时限与账户访问权限。来源:俄罗斯司法部 2025 年 12 月 9 日第 336 号令;第 7-ФЗ 号联邦法第 32 条第 10 款。

研究

4. Anthropic:「思想病毒」在多智能体系统中

论文《Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems》描述了一种情形:某种观念在智能体之间传递,并在没有外部载体的情况下持续自我复制,其机制类似感染。对我们而言这不是比喻,而是测量对象:传播存在临界点、速率与饱和点,只要实验设计得当,这些都可以计量。

为何重要:如果观念生存在智能体网络之中,仅保护单个智能体无济于事——关键在于系统层面。来源:Anthropic,arXiv:2608.10218,2026 年 8 月。

5. LLAMATOR:面向聊天机器人的开源测试工具

ИТМО 团队正在开发用于大语言模型与聊天机器人自动化测试的开源框架。其实际价值在于测试不再依赖手工:攻击集可复现,结果可在模型版本之间比较。该工具与我们的工作并行,而非替代:它测试单个模型,而我们观察由多个智能体组成的系统及其长期行为。

建议:可作为进入常态化测试的快捷入口,但需记住其局限——单个模型不会呈现智能体网络中涌现的现象。来源:ИТМО 的 LLAMATOR。

对实践意味着什么

  • 监管正从宣示走向程序:要求越来越多地表述为「保障并证明」,而不是「遵守」。
  • 标识责任沿链条分担:模型开发者、平台与作者各自负责不同环节。
  • 文档化的成本正在低于缺失文档的代价:没有对模型的描述,既无法证明合规,也无法在争议中自证。
  • 单个模型不再分析的基本单位:风险与防护都在智能体系统层面显现。

简报如何制作

我们每两周汇编一期,并逐条按原始来源核对:法律、命令或科研论文。新闻稿的转述与「据媒体报道」不会进入简报。

  • 只有会改变人工智能系统实际工作的内容才入选,而不仅仅是上了新闻的内容。
  • 每一条都有来源,每一条结论都有对应动作:具体该做什么。
  • 若事实无法确认,就不发布,或明确标注为未经证实。

需要针对贵方系统的评估?

请说明贵方在用的 AI 系统及适用要求,我们将提出工作范围与参考价格。

页面更新于 2026年09月29日 · 网站构建版本 2026.10.01 · ANO «ISAI»