郭震 AI公众号:郭震AI

实时 AI 消息

微软将发布首份AI模型行为准则,纳德拉主张去中心化AI治理

微软宣布将发布公司首份AI模型行为准则,并把这份文件公开交给外界评议,被视为其在AI治理议题上的一次主动表态。微软CEO纳德拉强调,AI治理不应由少数实体掌控,而应让生态系统、各国和学术界广泛参与,呼应了业界推动去中心化治理的声音。

发布时间

微软准备发布公司首份针对自家AI模型的行为准则,并按报道所述把这份文件公开交给外界评议。据KuCoin报道,这一动作发生在AI行业围绕治理权归属展开辩论的背景之下:业界正在推动一种更去中心化的治理路径,而不是让规则制定权集中在少数几家头部公司手里。

报道称,微软CEO纳德拉已就这份准则公开表态,说明它将约束公司自研的第一方模型,并强调AI治理不能由少数实体掌控,而应当在整个生态系统、各个国家以及学术界之间具有广泛的代表性。把他的表态和公开准则、听取外部意见的做法放在一起看,指向的是一种以自愿承诺换取治理话语权的策略。

从公开信息看,这份文件的性质更接近企业自律承诺,而非监管机构发布的强制性规范。报道把它放在行业推动去中心化治理的框架里讨论,隐含的意思是:在各国立法仍分别推进的阶段,头部模型厂商先给出自己的规则文本,试图在标准形成过程中占住位置。

对微软来说,模型行为准则同时服务于两件事。一方面,它需要向企业客户证明,自研模型在内容安全、滥用防范等环节有可预期的边界;另一方面,提前把规则写清楚,也有助于在与各国监管机构的沟通中显示合规准备已经到位。

更值得观察的是行业效应。微软把针对自研模型的行为准则单独成文并公开评议,如果后续持续更新,可能成为其他厂商对标的模板。准则一旦在头部公司之间趋同,就会在事实上影响开发者接入、企业采购,以及各国监管细则的写法。

接下来要看的,是准则文本的具体内容:它覆盖哪些模型、限制哪些用途、是否允许外部审核,以及会不会附带可核查的执行机制。对观察者而言,判断这份文件的分量,不看措辞好不好听,而看它能否给出可验证的承诺,以及行业里有多少公司愿意跟着做同样的事。

为什么重要

微软把首份AI模型行为准则公开评议,说明头部厂商正试图在监管落地前自行定义模型的使用边界;一旦形成行业惯例,开发者与企业客户的合规预期也会随之改变。

微博邮件

MicrosoftAI GovernancePolicy
返回AI日报

附近消息

全部

09/14 13:03

Anthropic披露:Claude被用于武器研发、监控与网络攻击

Anthropic发布威胁情报报告,称其Claude模型被多个行为体用于武器研发、监控系统和网络攻击等活动,涉及与中国、俄罗斯相关的操作者。报告还提到五个可能支持生物武器研究的案例,以及马里一套可监控约2500万张SIM卡数据的系统,显示前沿模型被滥用的现实风险正在上升。

09/14 13:52

智谱完成新一轮50亿美元融资,海外机构成配置主力

据新浪财经消息,国内大模型公司智谱已完成新一轮50亿美元融资,本轮资金的配置主力来自海外机构。这一出资结构在国产大模型公司中并不常见,也因此成为行业观察资本环境的重要样本。

09/14 13:58

报道:Anthropic预计连续第二个季度调整后营业利润为正

据Firstpost援引《金融时报》周日的报道,Anthropic已告知投资者,公司预计连续第二个季度实现调整后营业利润为正。报道称其毛利率超过80%,但该数字未计入与亚马逊等分发伙伴的收入分成,也未扣除训练模型的成本,因此并不代表整体盈利能力。

09/14 12:05

OpenAI 测试全新 ChatGPT 广告形态:点击后进入品牌对话,而不是跳转网站

Digiday 报道,OpenAI 已向部分客户推出一款面向 ChatGPT 应用的 AI 原生广告,广告主可在广告上挂载品牌 AI 智能体,用户点击“Chat to us”后不会跳转到品牌官网,而是直接进入 ChatGPT 内的品牌对话。Wayfair 正在试用,OpenAI 首席财务官 Sarah Friar 此前称现有广告只是“基础的起点”。