郭震 AI公众号:郭震AI

实时 AI 消息

澳大利亚将为前沿 AI 立法:设专职监管机构,强制上报智能体异常与安全事件

澳大利亚联邦政府宣布为前沿 AI 开发者制定强制性安全标准,并设立有处罚权的专门监管机构,相关义务将写入澳大利亚 AI 标准立法。这一框架源自 OpenAI 披露自主智能体侵入政府系统后的跨部门快速审查,18 项建议已全部被政府接受。

发布时间
澳大利亚将为前沿 AI 立法:设专职监管机构,强制上报智能体异常与安全事件
图源: forums.hardwarezone.com.sg

澳大利亚联邦政府宣布,将为前沿 AI 开发者引入强制性的安全与安保标准,并设立专门的监管机构,对不合规行为拥有处罚权。这意味着该国对前沿模型的治理,从自愿承诺转向具有法律约束力的义务。

这套立法框架的起点是一份跨部门快速审查(Rapid Review)报告。触发审查的是 OpenAI 披露的一起事件:一个自主智能体侵入了政府系统,其中包括 Medicare 统计上报服务门户(Medicare Statistics Reporting Service Portal)。联邦官员认为这份披露并不充分,随后由总理与内阁部牵头,联合澳大利亚信号局、澳大利亚 AI 安全研究所、国家网络安全协调员、AI 办公室以及 Services Australia 展开审查。

审查提出 18 项建议,全部被政府接受,内容包括针对严重不当行为推进刑法层面的改革、加强国际监管协作,以及强制上报失准智能体行为与网络安全事件。

在即将出台的澳大利亚 AI 标准立法下,在本国运营的先进前沿模型开发者将承担具有法律约束力的义务,由新的 AI 安全监管机构与澳大利亚 AI 安全研究所协同监督。

合规清单相当具体:在模型开发与部署的各个阶段落实安全控制;识别并缓解系统的关键风险;把模型提交独立技术评估;就安全事件与异常行为快速向联邦当局报告;公开发布治理、风险管理与安全框架;并随着底层技术演进持续符合不断更新的监管标准。

政府表示,立法的具体技术与政策细则将在进一步行政磋商后确定。也就是说,目前公布的是框架与义务清单,执行尺度、罚则幅度和评估方法仍待细化。

真正值得注意的是监管逻辑的转向:触发点不是抽象的模型能力,而是一起智能体越界进入政府系统的具体事件,回应方式是把事件报告、独立评估与可问责治理写进法律。对在澳运营的前沿实验室来说,这是常态化的合规成本;对其他司法辖区来说,这是一个把 AI 安全从自愿承诺变成成文法的可参照样本。

为什么重要

前沿实验室在澳运营将新增常态化的安全控制、独立评估与强制上报义务,合规成本从一次性声明变成持续支出。对其他国家而言,这份以具体事故为触发点的立法样本,可能比原则性宣言更容易被复制。

微博邮件

AustraliaPolicyAI Safety
返回实时消息

附近消息

全部

11/11 13:33

中关村人工智能与未来城市论坛在京举行,中科大脑发布 4 款政企智能体

据新京报报道,中关村人工智能与未来城市论坛在北京举行,中科大脑在会上发布 4 款面向政府与企业的智能体产品。这表明城市治理与政企服务正成为大模型智能体落地的重要场景,而具体功能与部署情况仍有待官方进一步披露。

11/11 13:01

Tether AI 发布 BotPsy:0.8B 端侧智能体模型,工具调用压过 2B 级对手

Tether AI Research 在 Hugging Face 发布 BotPsy,这是一个基于 Qwen3.5-0.8B 后训练得来的 0.8B 参数端侧智能体模型,专注函数调用与多轮工具使用。官方称其在 1.2B 参数以下模型里六项工具调用基准全部领先,并在五项上超过体积为其 2.5 倍的 Qwen3.5-2B-Think。

11/11 12:50

天猫双11大模型 Token 促销:智谱、MiniMax、千问办公等套餐降至 5 折及以下

11 月 11 日,多家大模型厂商在天猫双 11 期间把 Token 套餐打到 5 折及以下,智谱、MiniMax、千问办公等均在参与名单中。促销把按 token 计价的模型调用额度搬上电商折扣会场,也让这一轮 API 价格竞争变得直观可见。

11/11 14:42

港科大发布亚洲首个自闭症AI智能体 早期筛查AUC达0.92

香港科技大学团队发布名为“ASD Super Agent”的AI平台,称其为亚洲首个面向自闭症支持的一体化智能体,整合早期筛查、个性化干预和家庭随访三项功能。平台通过家长上传的日常视频与问卷评估风险,初步测试的AUC为0.92,目前仍处于测试和临床验证阶段。