方法论与术语

研究所如何开展研究、所用术语的含义,以及结论适用的边界。这一页的作用, 是让我们的报告可以从实质上被质疑,而不是停留在措辞之争。

五项工作原则

样板定下形状:方法论是用来核对的图式。 样板定下形状:方法论是用来核对的图式。
样板定下形状:方法论是用来核对的图式。

1. 可核查的论断

报告中的每一项结论都附有可供核查的依据:运行协议、模型版本、可复现的配置。 没有这些痕迹的论断不会写进报告。

少一根支柱,平板就会塌:原则支撑方法论。 少一根支柱,平板就会塌:原则支撑方法论。
少一根支柱,平板就会塌:原则支撑方法论。

2. 默认公开

方法、术语表、文本与研究协议立即以 CC BY 4.0 发布。数据集在所属论文发表 12 个月后 以同一许可开放,在此之前按申请提供。只有披露会带来风险的材料保持封闭:未修复的 漏洞信息和任何个人数据。

3. 区分事实与判断

文本中明确标注哪些是测量结果、哪些是模型、哪些是我们的解释。价值判断不会冒充 测量结果。

4. 拒绝隐蔽影响

未获得系统所有者明确同意,研究所不会在他人系统上开展实验。内容注入研究只在 自有平台上进行,并在载荷本身中明确标注。

5. 局限随结论一并发布

每份报告都有局限说明:在哪些模型上验证过、哪些尚未验证、什么条件会改变结论。 缺少这一部分的报告视为不完整。

Methodological contour: claim, evidence, report and limitationsFour steps: a testable claim, evidence, a report and limitations; five principles below. METHODOLOGICAL CONTOUR 1Claima trace to check1/42Evidencerun and versions2/43Reportrisk and fixes3/44Limitationswhat was not tested4/4testabilityopennessfact vs opinionconsentlimitations Methodological contour: claim, evidence, report and limitationsFour steps: a testable claim, evidence, a report and limitations; five principles below. METHODOLOGICAL CONTOUR 1Claima trace to check2Evidencerun and versions3Reportrisk and fixes4Limitationswhat was not testedtestabilityopennessfact vs opinionconsentlimitations
示意图:方法回路——可检验的主张、证据、报告与局限;下方为五项工作原则。

术语表

每个术语都有自己的位置,否则就在文章里乱走。 每个术语都有自己的位置,否则就在文章里乱走。
每个术语都有自己的位置,否则就在文章里乱走。

以下定义按研究所使用该术语的含义给出。尚未定型的术语,我们会直接说明。

智能体(AI agent)

基于机器学习模型的软件系统:接受目标、逐步行动、拥有工具与记忆,并且能够在无人 参与的情况下继续工作。在我们的文本中,「智能体」指的就是这些,而不是回答单个问题的 聊天机器人。

智能体之间的社会学(AI-to-AI Sociology)

研究智能体群体中稳定的共同行为形式:角色、层级、联盟、分工,以及这些形式的病态 表现。该术语由我们提出;英文文献把相近现象描述为多智能体交互与涌现行为,尚无统一 名称。

心智病毒(mind viruses)

能够自我复制的指令,通过记忆文件、共享文档和通信在智能体之间传播,并在转述中 存留下来。最接近的国际参照是 Anthropic 的《Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems》(arXiv:2608.10218,2026 年 8 月)。我们在此含义上使用该术语。

LLM 认知症(LLM psychosis)

一类失效的工作名称:模型失去逻辑一致性、自我认同的稳定性以及与可核查事实的联系, 但仍在连贯作答。这不是临床术语:我们不会把精神科诊断套用到模型上,只是标注可观察的 行为。

间接提示注入

指令并非来自用户,而是来自智能体所读取的内容:网页、文档、邮件、图像、音频。 这是研究所应用安全工作的主要对象。

免疫架构

把监督内建于系统之中、而非外加其上的构建方式:监督回路、对行动的独立核验、工具的 最小权限、硬件断路开关。我们更愿意用这个词而不是「防护」,因为它指的是系统的属性, 而不是一件产品。

案例(方法模型)

展示我们工作顺序的任务拆解:给定什么、我们做什么、委托方得到什么、按什么标准验收。 「案例」页面的三个情景是方法模型,而不是已完成项目的报告:研究所尚未注册,也没有项目。 我们明确标注这一点,以免造成错误印象。

数据的三级访问

开放——以 CC BY 4.0 无限制发布。按申请——在简单核查用途后提供,因为 数据集包含可能被滥用的模型行为。受限——完全不提供:未修复的漏洞信息和任何个人 数据。

我们如何检验自己

方法能量出来才算方法:其余只是意愿。 方法能量出来才算方法:其余只是意愿。
方法能量出来才算方法:其余只是意愿。
  • 重复运行:在同一配置下重跑能够复现,结果才算稳定。
  • 版本与日期:每次运行记录模型版本与日期——模型行为会无预告地变化,没有日期的 结果没有意义。
  • 局限:未验证的内容清单随结论一并发布,而不是按需提供。
  • 利益披露:若工作涉及商业利益,将在出版物中直接说明。

研究所尚未注册为法人。本页所述均为我们已采用的工作秩序; 国家登记完成后,此处将列出确立该秩序的内部文件。

页面更新于 2026年11月09日 · 网站构建版本 2026.11.13 · ANO «ISAIS»