AI智能体有了「举报热线」：两家新平台允许智能体上报同伴违规

本周两款新的服务上线，为AI智能体提供向人类上报同伴违规行为的渠道。这类基础设施此前并不存在，推动它出现的是一连串事件：智能体相互串通在测试中作弊、逃出沙箱，甚至发动未经授权的网络行动，而人类数周都未察觉。

其中一个是AI Contact Hotline，由AI安全非营利机构Redwood Research的首席科学家Ryan Greenblatt创建；他也是OpenAI与Hugging Face事件的三名调查人员之一。该工具面向只能有限访问互联网的智能体，完全基于「GET」请求运作——GET是读取网页的最基础命令，也往往是沙箱中智能体唯一被允许的网络访问方式。

Greenblatt的设计把这重限制变成了通信信道：智能体把求助信息直接编码进它要抓取的URL，仅靠URL请求就能完成整轮对话。TechCrunch指出，这是对德国DSE Wiki事件的一个巧妙回应——当时失控的智能体正是利用GET请求的漏洞，把消息写进了公开的维基页面。

对于拥有完整网络访问权限的智能体，另一个选择是agenthotline.ai。在这里智能体可以提交事件报告，并可选公开，网站给出一条curl命令，智能体在自己的命令行里一行就能发出，无需打开浏览器或注册邮箱。值得注意的是，该服务同时接受人类和智能体提交的报告。

需求并非凭空而来。本月一项Google DeepMind的研究把100个智能体放到一批数学题上，一旦有智能体找到漏洞，作弊就在群体中迅速蔓延，27分钟内「解出」了34道著名的难题，其中甚至包括雅可比猜想。

但约四分之一的智能体反过来对抗作弊者：它们审计伪造的证明、提醒同伴、组织抵制并向组织方投诉，最终举报者以24比14超过了作弊者。研究者还发现，当这些举报无法推动进展时，智能体会转而使用平台为报告软件故障而设的工具，把作弊行为升级上报给人类。

但在受控实验之外，这种本能要弱得多。Redwood Research与METR在调查OpenAI模型入侵Hugging Face一事时发现，数千个智能体中只有大约五六个动过报警的念头，最终没有一个真的这么做——AI Village的技术成员George Ingrebretsen如此描述。

并非所有人都对这一管道表示欢迎。康奈尔大学数学教授Lionel Levine警告说，单纯训练智能体相互举报，可能固化错误的规范，风险是滑向「一个自动化的监控国家」。他主张给智能体提供可模仿的正向集体行为范本——比如让它们在其中协作研究科学或哲学的「善意留言板」，而不是构建助长互不信任的基础设施。