郭震 AI公众号:郭震AI

实时 AI 消息

Action State 开源 EvidenceBook,让 AI 智能体的行为记录可被独立核验

Action State Group 发布开源工具集,用 EvidenceBook 保存防篡改的智能体行为记录,以 Terms Packs 定义评估标准,并由 Countersign 提供独立验证。它要解决的是智能体跨组织执行任务时,一方无法只凭另一方的说辞确认到底发生了什么的问题。

发布时间

10 月 22 日,Action State Group 发布了一套开源工具,目标是让企业能够独立核验 AI 智能体到底做了什么。这套方案由三部分组成:保存防篡改记录的 EvidenceBook、用于评估智能体行为的 Terms Packs,以及提供独立验证服务的 Countersign。

要解决的问题很具体。当智能体开始跨公司边界采购、销售、转派工作时,一方不能只依赖另一方对“我的智能体做了什么”的口头说明。EvidenceBook 让交易双方各自保存签名的交易历史——买方记录自己请求了什么、支付了什么,供方记录自己接受了什么、报告交付了什么。

双方比对各自选定的记录,就能发现一致、冲突或缺失,而不需要一个中心机构把所有人的数据集中存放。参与者保留对自己信息的控制权,可以在评估结果时再披露更多细节;一方使用即可受益,若双方采用兼容实现,还能直接交换证据。

技术上,系统使用 Agent Action Capsules 这一开放格式承载签名记录,并用密码学检查点让后续改动可被察觉;一个免费的公共见证服务用来证明某个检查点在特定时间已经存在。验证可以离线完成,且不收费。

创始人兼 CEO Steven Mih 对边界说得很坦白:保存记录并不证明内容真实,也不证明所有动作都被捕获。EvidenceBook 能验证报告的事件确实发生过,但不能验证协议是否被履行;Countersign 同样只检查证据包在密码学与结构上的性质,并把自己的结论记入透明度日志,而不为结果背书。

Terms Packs 负责“是否符合要求”这一层:包内定义评估标准与方法,输出会标明哪些要求已满足、未满足或无法评估。首个包覆盖欧盟《人工智能法案》中与智能体相关的义务,Action State 建议治理、风险与合规团队按自身要求定制。它同样不构成法律合规认证。

值得注意的是人的位置。Mih 描述的工作流是:AI 评审每天评估智能体记录,员工定期抽样复核,比较人工与自动判断的差异;评估结果本身也被保存,供审计人员回看底层证据。

EvidenceBook 以 Apache 2.0 许可发布,早期集成包括分布式推理网络 Mesh-LLM 与智能体协议项目 Project Nanda。相关规范目前仍是 IETF 的个人草案而非 RFC 标准,公司表示将寻求中立基金会治理,并计划在出现接受 Countersign 的依赖方之后开始收费。

为什么重要

随着智能体开始跨公司采购、交付与转派任务,“可核验”正在成为与能力同等重要的指标。开源记录格式加独立验证服务,可能成为企业部署代理型 AI 时的一道审计前置条件。

微博邮件

Action StateAI AgentOpen Source
返回实时消息

附近消息

全部