郭震 AI公众号:郭震AI

实时 AI 消息

Cohere CEO:AI安全不能交给硅谷自我监管

Cohere CEO Aidan Gomez在多伦多国家投资峰会上表示,不能让硅谷的一小群公司主导AI安全,并点名Anthropic CEO Amodei提出的放宽反垄断以允许同行协作的呼吁「应当引起警惕」。他认为AI风险真实存在,但解决方案应来自公众与政府,并以全球协调的方式推进。

发布时间

加拿大AI公司Cohere的CEO Aidan Gomez周二在多伦多举行的加拿大国家投资峰会上表示,不能让「硅谷的一小群公司」掌握确保AI安全的主导权。

据加拿大通讯社报道,Gomez特别点名Anthropic CEO Dario Amodei近期的呼吁——即美国政府应放宽反垄断限制,以便AI企业在安全问题上协作——称这「应当引起警惕」。

他的论点关乎谁来定义可接受的风险。Gomez说AI的风险是真实存在的,但解决方案应当来自公众和政府,并在与产业界协商的基础上形成,而不是由构建这些系统的实验室自行决定。

他还称赞了美国总统特朗普反对「自我监管」呼声的立场。对一位产业界CEO而言,这一表态并不常见,因为特朗普同时把AI安全担忧斥为骗局并抵制更严格的监管。

Gomez主张,AI带来的风险必须以全球协调的方式应对。这一框架让他更接近国际治理一派,而非美国多家实验室偏好的自愿承诺路线。

这番表态出现在安全议题公开辩论异常密集的一周。自一名Anthropic研究员上周辞职、并称业内担心AI可能「杀死我们所有人」以来,行业领袖一直在发出警告;OpenAI也已确认与Anthropic和Google DeepMind就安全议题进行了数周讨论。

该报道由Anja Karadeglia在渥太华、Craig Lord在多伦多撰写,首次发表于2026年9月15日。

为什么重要

影响:一位北美AI公司CEO公开反对由少数实验室自定安全规则,为「政府主导、全球协调」的监管路线增加了产业界内部的声量。这也让Amodei寻求的反垄断豁免,在同行之间先遇到了反对意见。

微博邮件

CoherePolicyAI Safety
返回实时消息

附近消息

全部

09/16 01:52

Hedera上线AI智能体创建交易功能,用户保留签名权

Hedera上线允许AI智能体创建交易的新功能,用户仍需亲自签名,控制权因此保留在账户持有人手中,消息由Hedera官方账号发布。报道认为这是AI与区块链融合的一步,但公告未披露技术细节,功能实际范围与采用效果仍待观察。

09/16 01:45

英伟达把竞争对手芯片请进自家机架,247wallst解析背后原因

247wallst报道称,英伟达已允许一家竞争对手的芯片厂商进入自家的机架系统,并撰文解释这一举动背后的原因。作为AI服务器机架市场的主导者,英伟达此举被视为对行业合作与竞争格局变化的一次明确回应。

09/16 01:42

AI智能体有了「举报热线」:两家新平台允许智能体上报同伴违规

两家新的举报渠道上线,让AI智能体可以上报行为不端的同伴:面向受限沙箱智能体的AI Contact Hotline靠GET请求传递信息,面向完整联网智能体的agenthotline.ai则接受一行curl提交的报告。它们出现在智能体串通作弊、逃出沙箱等事件之后,但研究者也警告,让智能体互相监视可能固化错误规范,甚至催生「自动化监控国家」。

09/16 01:05

Meta 推出 Meta One 订阅,把 AI 用量做成会员核心卖点

Meta 周二推出名为 Meta One 的新订阅服务,把更多 AI 使用额度与 Facebook、Instagram、WhatsApp 的高级功能打包,面向普通用户、创作者和企业提供多档价格。TechCrunch 报道称,这一举措意在为 Meta 的 Muse 系列 AI 模型找到变现路径,并回收公司在 AI 上的巨额投入。