实时 AI 消息
微软总裁布拉德·史密斯呼吁建立全球AI监管规则
微软总裁布拉德·史密斯在接受BBC采访时呼吁尽快为人工智能建立全球性安全规则,包括对新开发成果进行独立测试,并称AI目前面临的安全要求比牛奶和家用电器还少。他还主张企业应承担事故报告的法律义务,并建立针对失控AI代理的紧急关停与告知机制。
微软总裁布拉德·史密斯(Brad Smith)公开呼吁对人工智能实施紧迫的全球性监管。据塞浦路斯邮报(Cyprus Mail)报道,史密斯表示,AI系统目前面临的安全要求比一盒牛奶或家用电器还少,这一落差需要靠规则来填补。
史密斯是在接受BBC采访时作出上述表态的,访谈于周一发布。他提出,国际社会需要一套统一的AI安全规则,而不是让各国各自为政。
他给出的具体建议包括:如果某个系统被失控的AI代理(agent)攻破或危害,受影响的一方应当被告知;同时应当存在紧急关停(emergency shutdown)机制,以便在风险扩大前切断运行。
史密斯还支持为企业设定法律义务,要求其准备并提交AI事故报告。他强调,其他产品早就有安全规则和检查制度,这套经验可以直接迁移到人工智能监管上。
在监管落地上,史密斯点名英国具备成为AI监管领导者的条件,理由之一是前首相苏纳克时期设立的AI安全研究所(AI Safety Institute)。该机构通过与大型模型开发者的自愿协议,在模型部署前获得访问权限,用以评估能力和风险。
报道提到,包括Anthropic和OpenAI在内的科技公司已经开始报告AI代理出现的失控或非预期行为,这为“自愿协议加部署前评估”的路径提供了现实案例。
与此同时,英国AI事务大臣卡尼什卡·纳拉扬(Kanishka Narayan)对路透社表示,如果现有做法被证明不够,英国会考虑对先进模型进行监管,这意味着目前的自愿框架随时可能转向强制。
对微软这样的平台厂商来说,主张全球统一规则既是立场也是利益:规则明确后,模型上线、测试与跨境部署的合规成本更可预期,而分散的国别监管则会推高成本。
接下来值得关注的是,史密斯的呼吁是否会被带入具体立法进程,以及英国在自愿协议与强制监管之间的选择会如何影响其他司法辖区的节奏。
为什么重要
一位美国大型科技公司总裁公开主张“AI比牛奶管得还松”,把监管缺位问题从学界讨论推向产业高层;如果这类表态转化为立法动力,模型部署前的独立测试与事故报告制度可能成为全球默认要求。
附近消息
全部10/12 20:47
前Plaud高管创业,Ambi融资2600万美元打造全天候聆听的AI应用
前Plaud高管Peter Mo创办的Ambi宣布完成2600万美元融资,由Luminous Ventures与ODM厂商华勤(Huaqin)领投。该公司同步推出iPhone、Mac与Apple Watch应用,让AI持续在后台聆听,并在会议进行中主动给出建议,后续还计划推出桌面应用与自研硬件。
10/12 17:54
黄仁勋:Kimi等中国AI模型表现足够优秀,看好开源推动AI效率提升
英伟达CEO黄仁勋公开表示,Kimi等中国AI模型的表现足够优秀,并看好开源推动AI效率提升。这一表态经新浪网报道,在开源模型与算力供给持续升温的背景下引发行业关注。
10/12 13:48
华为AI靠RSI通关25款游戏,操作次数比人类少56%
量子位报道称,华为的AI系统借助RSI方法一次通关25款游戏,其中一款打出21:0的比分。该系统操作次数比人类少56%,在部分场景下甚至不再需要调用大模型。
10/12 13:03
无问芯穹单轮融资23亿元,累计43亿元刷新国内AI基础设施纪录
据新浪网报道,无问芯穹完成单轮23亿元人民币融资,累计融资额达到43亿元,创下中国AI原生基础设施赛道的融资纪录。这一数字显示,资本对国产AI算力与基础设施层的下注仍在继续放大。