安全研究机构 Salt Labs 发现,热门 AI 智能体 Manus 的提示注入防护可被绕过:攻击者只需在邮件中隐藏一段经 JSFuck 混淆的指令,就能让其在服务端执行任意 JavaScript 代码。该漏洞已在负责任披露后修复,但研究者警告,类似风险普遍存在于拥有广泛第三方访问权限的 AI 智能体之中。
本周,白宫把扎克伯格、贝索斯、马斯克以及 Anthropic 的达里奥·阿莫代伊等主要科技公司负责人召集到一起,共同签署了一份被特朗普称为“具有道德约束力”的人工智能安全承诺。特朗普还签署行政命令,正式把人工智能改称为“超级智能”,而 Meta 与 OpenAI 同期为自家 AI 产品换上更友好的形象。
Sean Parker 正把 Stability AI 重塑为面向音乐专业人士的 AI 工具公司,他在接受 The Information 采访时表示这次要与唱片公司合作而非对抗。公司此前获得索尼、华纳、环球参与的7600万美元融资并授权曲库训练,已发布三款音频模型和音乐编辑软件,并计划加入哼唱、打节拍来引导生成的功能。