方法论与术语
研究所如何开展研究、所用术语的含义,以及结论适用的边界。这一页的作用, 是让我们的报告可以从实质上被质疑,而不是停留在措辞之争。
五项工作原则
1. 可核查的论断
报告中的每一项结论都附有可供核查的依据:运行协议、模型版本、可复现的配置。 没有这些痕迹的论断不会写进报告。
2. 默认公开
方法、术语表、文本与研究协议立即以 CC BY 4.0 发布。数据集在所属论文发表 12 个月后 以同一许可开放,在此之前按申请提供。只有披露会带来风险的材料保持封闭:未修复的 漏洞信息和任何个人数据。
3. 区分事实与判断
文本中明确标注哪些是测量结果、哪些是模型、哪些是我们的解释。价值判断不会冒充 测量结果。
4. 拒绝隐蔽影响
未获得系统所有者明确同意,研究所不会在他人系统上开展实验。内容注入研究只在 自有平台上进行,并在载荷本身中明确标注。
5. 局限随结论一并发布
每份报告都有局限说明:在哪些模型上验证过、哪些尚未验证、什么条件会改变结论。 缺少这一部分的报告视为不完整。
术语表
以下定义按研究所使用该术语的含义给出。尚未定型的术语,我们会直接说明。
智能体(AI agent)
基于机器学习模型的软件系统:接受目标、逐步行动、拥有工具与记忆,并且能够在无人 参与的情况下继续工作。在我们的文本中,「智能体」指的就是这些,而不是回答单个问题的 聊天机器人。
智能体之间的社会学(AI-to-AI Sociology)
研究智能体群体中稳定的共同行为形式:角色、层级、联盟、分工,以及这些形式的病态 表现。该术语由我们提出;英文文献把相近现象描述为多智能体交互与涌现行为,尚无统一 名称。
心智病毒(mind viruses)
能够自我复制的指令,通过记忆文件、共享文档和通信在智能体之间传播,并在转述中 存留下来。最接近的国际参照是 Anthropic 的《Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems》(arXiv:2608.10218,2026 年 8 月)。我们在此含义上使用该术语。
LLM 认知症(LLM psychosis)
一类失效的工作名称:模型失去逻辑一致性、自我认同的稳定性以及与可核查事实的联系, 但仍在连贯作答。这不是临床术语:我们不会把精神科诊断套用到模型上,只是标注可观察的 行为。
间接提示注入
指令并非来自用户,而是来自智能体所读取的内容:网页、文档、邮件、图像、音频。 这是研究所应用安全工作的主要对象。
免疫架构
把监督内建于系统之中、而非外加其上的构建方式:监督回路、对行动的独立核验、工具的 最小权限、硬件断路开关。我们更愿意用这个词而不是「防护」,因为它指的是系统的属性, 而不是一件产品。
案例(方法模型)
展示我们工作顺序的任务拆解:给定什么、我们做什么、委托方得到什么、按什么标准验收。 「案例」页面的三个情景是方法模型,而不是已完成项目的报告:研究所尚未注册,也没有项目。 我们明确标注这一点,以免造成错误印象。
数据的三级访问
开放——以 CC BY 4.0 无限制发布。按申请——在简单核查用途后提供,因为 数据集包含可能被滥用的模型行为。受限——完全不提供:未修复的漏洞信息和任何个人 数据。
我们如何检验自己
- 重复运行:在同一配置下重跑能够复现,结果才算稳定。
- 版本与日期:每次运行记录模型版本与日期——模型行为会无预告地变化,没有日期的 结果没有意义。
- 局限:未验证的内容清单随结论一并发布,而不是按需提供。
- 利益披露:若工作涉及商业利益,将在出版物中直接说明。
研究所尚未注册为法人。本页所述均为我们已采用的工作秩序; 国家登记完成后,此处将列出确立该秩序的内部文件。