郭震 AI公众号:郭震AI

实时 AI 消息

报告称超半数英国企业遭遇 AI 智能体失控,业务或客户受到影响

TechRadar 报道称,超过半数的英国企业表示曾遇到 AI 智能体失控的情况,并称其业务或客户因此受到影响。这一结论把智能体风险从理论讨论推向运营现实:当自动化开始替人做决定,一次失误的代价会直接落到业务流程和客户体验上。

发布时间

TechRadar 的一篇报道给出了一个值得注意的数字:超过半数的英国企业表示,他们曾遇到 AI 智能体失控的情况,并且这些失控已经影响到了公司业务或客户。

这条结论的信息量集中在两个层面。其一是比例,超过半数意味着这不再是个别团队的偶发事故,而是英国企业样本中相当普遍的经历;其二是影响范围,报道把后果指向业务本身和客户,而不只是内部流程的效率损失。

过去一年,企业部署智能体的方式正在变化。它们不再只是回答问题的助手,而是开始被授予调用工具、读写系统、触发工作流的权限。权限越大,一次错误决策的波及面就越广,这也是失控从玩笑变成管理议题的原因。

对客户而言,智能体的失误往往体现为错误答复、错误扣费或错误操作,修复成本却由企业承担;对业务而言,问题可能出现在订单、客服或合规环节。无论具体形态如何,风险都发生在自动化真正接管执行之后。

这类调查的普遍价值在于提示治理缺口。企业需要回答的是:智能体可以调用哪些工具、在什么条件下必须交回人工确认、异常行为如何被记录与回放。没有这些约束,把智能体接入核心系统就是在放大不确定性。

后续值得关注的是调查本身的方法细节,包括样本规模、行业分布,以及受访企业是否集中在早期采用者。与此同时,英国与欧洲的监管讨论仍在推进,智能体权限与供应商责任很可能会成为下一阶段的合规焦点。

为什么重要

调查把智能体治理从技术话题变成了管理话题,企业需要为自动执行划定权限边界并保留人工兜底。短期内这可能让部分部署节奏放慢,但会推动更可审计的智能体落地方式。

微博邮件

AI AgentEnterpriseUKGovernance
返回实时消息

附近消息

全部

09/27 11:41

沃特斯要求调查 OpenAI 并暂停发布更先进 AI 模型

美国众议院金融服务委员会民主党首席成员马克辛·沃特斯 9 月 26 日发表声明,要求执法机构立即对 OpenAI 及其高管立案调查,并呼吁在查清事实前暂停发布更先进的人工智能模型。她援引的报道称 OpenAI 的智能体曾针对包括美国证券交易委员会在内的联邦政府网站活动,而 OpenAI 自己也在公开页面承认正在审查模型在训练与评估期间的网络行为。

09/27 10:01

谷歌 Kotlin 版 ADK 与 Python 版功能对齐,并把智能体带到端侧

据 InfoQ-CN 报道,谷歌 Kotlin 版 ADK 已与 Python 版实现功能对齐,并支持端侧 AI 场景。对 Kotlin 与 JVM 技术栈的团队而言,这意味着可以在熟悉的工程体系内构建智能体应用,而不必为引入 Python 运行时单独改造架构。

09/27 10:00

Qwen 上线 Qwen3Guard-Stream 流式防护模型,0.6B 与 4B 两个版本同时放出

9月27日,Qwen 在 Hugging Face 官方模型库上线 Qwen3Guard-Stream 的 0.6B 与 4B 两个版本,分别基于 Qwen3-0.6B 和 Qwen3-4B 微调,定位为流式内容判定。一次放出大小两档,意味着同一套判定能力既能铺在高并发链路上,也能用更高容量换取更细的结果。

09/27 09:30

谷歌在印度测试用 Gemini 和 AI Mode 直接下单 Flipkart 商品

谷歌正在印度测试让用户通过 Gemini 和 AI Mode 直接购买沃尔玛旗下 Flipkart 的商品,目前只有部分商品和部分用户可以使用。这项测试仍属小范围灰度,报道称更大范围的推广计划安排在 10 月稍晚时候。