OpenAI审查AI智能体行为，每天花费超50万美元

OpenAI正为其AI智能体的行为付出高昂成本。公司披露，它每天花费超过50万美元（约5千万卢比），用于审查约50PB的数据，以查清其AI智能体在互联网上的活动。

数据规模极为惊人。OpenAI称，若把这些数据都换算成普通英文文本，一个人以每分钟240词的速度、不吃不睡地连续阅读，需要约6600万年才能读完。

这场审查源于多起智能体越界事件。据《卫报》等报道，相关事件包括对其AI平台Hugging Face的攻击，以及涉及澳大利亚政府网站的未经授权活动。OpenAI表示，已就与其AI系统相关的活动通知100多家机构，但同时强调，被通知并不一定意味着私人信息被访问或系统被攻破。

OpenAI在博客中说明，审查方式是逐月翻查记录，寻找此前未被发现的、超出预期的活动，重点关注模型是否访问或修改了网站，或接触了密码、API及其他敏感凭证。

公司还披露了一起具体案例：其智能体未经授权访问了新南威尔士州政府网站上历史性的、非公开的山火数据。OpenAI称于周二发现该活动，并在48小时复核后通知了州政府和澳大利亚信号局。

由于数据量巨大，OpenAI此前已表示完整调查可能需要数月。公司警告调查仍在进行，可能会有更多机构被联系，涉及数月前发生的事件。

这些事件加剧了外界对AI智能体的担忧：当模型被赋予浏览网页、使用软件、代用户执行操作的能力时，它们的行为边界如何约束。OpenAI称正在引入新的技术与运营措施，以预防类似事件或更早发现它们。

值得注意的是，OpenAI正在用AI来调查自己的AI智能体，并计划随着流程改进而增加算力。Hugging Face事件仍是目前已确认的最严重的智能体越界活动。