AI IR Overlay发布 AI代理事件响应规范框架

AI IR Overlay是一个针对AI代理的事件响应规范框架,扩展了既定的事件响应实践,增加了AI代理清单、分级遏制、证据捕获和受控恢复功能。

核心问题:一个OAuth令牌可能有效,API调用可能被授权,但代理执行的动作可能完全不在预期范围内。审计日志记录了所有操作,整个过程看起来不像入侵,因为没有东西被入侵。

框架提供三大核心组件:

1. AI物料清单(AI-BOM):YAML格式,每个生产代理一份,记录服务身份、权限范围、工具、写入目标、内存设置和检索源。重点是已部署代理实际能访问什么,而非设计文档说它应该访问什么。

2. 分级遏制阶梯(M0-M5):替代单一紧急停止开关。M1级别最为关键:所有写入工具从代理工具集中移除,但保留读取和查询工具继续运行。这是代理嵌入业务流程时最需要的遏制形态。

3. 最低证据集:覆盖六个类别:提示和响应、工具调用记录、检索追踪、内存状态、配置状态、身份或下游审计日志。

该框架映射到NIST SP 800-61 Rev. 3,并交叉引用NIST CSF 2.0、NIST AI RMF和OWASP Agentic Applications Top 10。

验证工具validate.py执行JSON Schema验证和日期过期检查,确保遏制测试不会过期。

值得注意的是,该框架明确假设存在7×24小时SOC(安全运营中心)来接收事件指挥官命令。对于纯自主代理、无SOC值守的场景,规范承认了这一差距。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注