项目实践

三个典型场景,按阶段逐一说明,使客户能够事先了解将获得什么、以及需要提供什么。

案例,2026 年 10 月 6 日

案例:23 分钟、六个板块、四次上线

对被研究智能体越过任务边界的逐分钟记录。

项目如何开展

请先阅读。研究所是一家新成立的机构。以下三个场景是工作的方法论模型—— 它们不是已完成客户项目的报告,文中没有描述或暗示任何客户。随着项目完成,在取得客户书面同意后, 将以匿名的真实案例研究替换这些内容。
Methodology diagram: input data, run series, report with limitationsThree cards: input data, run series with one brass divergence line, report with a brass limitations block. METHODOLOGICAL MODEL 1 Input dataprompts, context, version 2 Run seriesN repeats, same conditions 3 Reportresults and limitations limitations run divergence limitations section Methodology diagram: input data, run series, report with limitationsThree cards: input data, run series with one brass divergence line, report with a brass limitations block. METHODOLOGICAL MODEL 1 Input dataprompts, context, version 2 Run seriesN repeats, same conditions 3 Reportresults and limitations limitations run divergence limitations section
示意图:输入数据、系列运行、报告。金色标出的是一次偏离的运行与局限说明——缺少它们,报告并不完整。

场景一 —— 对多智能体系统进行红队测试

每个案例都拆开看:整块是查不了的 每个案例都拆开看:整块是查不了的
每个案例都拆开看:整块是查不了的

任务

客户运行着若干人工智能智能体,它们共享一个记忆存储并互相作为工具调用。客户希望了解: 一个被攻陷的智能体能否影响其他智能体,以及这种影响能传播多远。

我们的做法

我们依据客户自身的调用图构建场景集:智能体之间的提示注入、经由工具链的权限提升、 共享记忆污染,以及在审批环节伪造同意。每个场景都在系统副本上运行,并在边界处启用日志记录。

客户获得

每个场景一份报告:尝试了什么、发生了什么、完整调用轨迹、是否可复现, 以及按客户自身口径评定的严重程度。另附按成本与效果排序的控制措施清单。

验收

对每个场景,客户都能明确说明:是被拦截的以及如何拦截,或攻击成功以及修复方案是什么。 未附场景清单时,不得以“未发现漏洞”作为结论。

Behavioural audit diagram: long context, drift metrics and a report with monitoringLeft: long context with measurement points. Centre: four metrics. Right: drift chart and monitoring. BEHAVIOURAL AUDIT Long contextweeks, pressure, repeatsweeksMetricsretentionagreementcontradictionidentityReportmonitoring Behavioural audit diagram: long context, drift metrics and a report with monitoringLeft: long context with measurement points. Centre: four metrics. Right: drift chart and monitoring. BEHAVIOURAL AUDIT Long contextweeks, pressure, repeatsweeksMetricsretentionagreementcontradictionidentityReportmonitoring
示意图:长上下文、漂移指标与带监控的报告。测量在不同上下文长度和压力下重复。

场景二 —— 长期运行助手的行为审计

漂移写在长卷上:一次抱怨还不是诊断 漂移写在长卷上:一次抱怨还不是诊断
漂移写在长卷上:一次抱怨还不是诊断

任务

某个助手在长达数周的上下文中持续运行。用户反映其回答出现漂移:变得更顺从、遗忘约束条件, 或与先前的决定相矛盾。

我们的做法

我们把这些反馈转化为可测量的代理指标——约束保持度、相对于客观基线的顺从率、自我矛盾程度 与身份稳定性——并在不同上下文长度与对话形态(包括对抗性施压)下进行测量。

客户获得

一份测量报告,含确切的提示词与评分脚本、观测到的失效阈值,以及可在生产环境中呈现 同样曲线的监测方案。

验收

使用所提供的脚本,测量结果可在客户自身的基础设施上复现。

Compliance diagram: requirements, gaps, guardrails and an evidence packFour steps: requirements, gaps without evidence, guardrails and logging, an evidence pack for the auditor. COMPLIANCE AND GUARDRAILS RequirementsGapsGuardrailsEvidence packlawspoliciescontractsno evidenceno ownerinput and outputtool permissionsaction logfor the auditor Compliance diagram: requirements, gaps, guardrails and an evidence packFour steps: requirements, gaps without evidence, guardrails and logging, an evidence pack for the auditor. COMPLIANCE AND GUARDRAILS RequirementsGapsGuardrailsEvidence packlawspoliciescontractsno evidenceno ownerinput and outputtool permissionsaction logfor the auditor
示意图:要求、无证据的缺口、护栏,以及供检查者使用的证据包。

场景三 —— 合规准备与安全护栏

证据在检查之前备好:门要提前锁上 证据在检查之前备好:门要提前锁上
证据在检查之前备好:门要提前锁上

任务

企业必须说明其人工智能系统做了什么、接触了哪些数据、每项操作由谁授权, 并且其形式要能够经受外部审查。

我们的做法

我们将系统与适用要求逐项对照,找出证据缺失之处,并规定可生成证据的护栏与日志: 输入输出检查、工具权限边界,以及责任明确的动作日志。

客户获得

一份差距登记册,逐项标明责任人与期限;一份工程团队可实施的控制措施规格说明; 以及供审查方使用的证据包索引。

验收

登记册中的每一项要求,要么有证据支撑,要么被明确列为未决事项并说明原因。

保密

  • 工作在保密协议下启动;我们的标准文本可依请求提供。
  • 影响已部署产品的发现,会在任何发表之前告知厂商,并商定披露日期。
  • 案例研究仅在取得书面同意后发表,并按要求达到客户选定的匿名化程度。
  • 客户数据不会用于研究或其他项目。

页面更新于 2026年11月09日 · 网站构建版本 2026.11.13 · ANO «ISAIS»