实时 AI 消息
OpenAI出资200万美元,支持AI与儿童安全研究
OpenAI本周在巴黎和平论坛签署《为儿童提供更安全AI的参与宪章》,并承诺出资200万美元,支持“AI时代儿童权利与保护联盟”框架下的科研网络。这笔资金将用于开发共享测量工具,帮助研究者评估AI给未成年人带来的风险与机会,为更安全的产品和更合理的政策提供依据。
OpenAI本周在巴黎和平论坛(Paris Peace Forum)签署了《为儿童提供更安全AI的参与宪章》(Charter of Engagement for Safer AI for Children),并承诺投入200万美元,支持“AI时代儿童权利与保护联盟”框架下的科研网络。消息由OpenAI官方博客在11月12日发布。
这笔钱并不用于开发某个具体模型,而是投向“共享测量”这一基础环节。OpenAI表示,资助将用于开发研究者可使用的工具,帮助他们更好地理解和度量AI对儿童的风险与机会,从而为更安全的产品设计和更合理的政策提供证据。
宪章本身列出了安全、适龄AI的共同原则,同时配套一个研究计划,以及保障研究独立性的机制。按照OpenAI的说法,研究团队保留对结论的控制权,研究成果将公开发表,包括负面结果和没有结论的结果。
这一承诺延续了OpenAI此前对全球青少年AI安全标准的呼吁。该公司在博文中重申,支持建立全面、可执行的青少年AI安全立法,框架应包括默认开启的适龄保护、面向家长的工具、定期的风险评估与缓解措施,以及有实际约束力的问责机制。
从行业角度看,这份声明的分量在于“谁来定义风险”。过去两年,AI公司与监管者、研究者围绕青少年保护的争论,常常卡在缺乏共同度量口径上:平台各自披露数据,研究者难以比较,政策制定者也缺少可核验的依据。资助一个独立科研网络,实际上是在为未来的监管讨论准备公共证据基础。
OpenAI还提到,随着欧盟《儿童法案》(EU Kids Act)的推进,公司期待与欧洲政策制定者接触。这意味着,这份宪章和配套研究很可能成为该公司在欧美立法进程中的一份“可引用材料”。
接下来值得观察的有两点:一是这笔资金实际流向哪些研究机构,以及测量工具会以何种形式开放;二是当研究结论与公司商业利益不一致时,公开出版负面结果的承诺能否兑现。对一家同时是模型提供方和政策游说方的公司来说,这既是信誉测试,也是其青少年安全叙事能否站得住的关键。
为什么重要
对OpenAI而言,这是在欧美青少年AI立法提速前抢占“证据供给者”的位置;对行业而言,共享测量工具若真正开放,可能改变各家自说自话的安全披露现状。
附近消息
全部11/12 07:58
Animoca 让 Yat Siu 牵头 AI Agent 方向
据 The Mercury 报道,Animoca 把联合创始人 Yat Siu 推到 AI agent 业务的前台,以此加码智能体方向。报道只给出一句话式摘要,职位、团队与产品路线均未披露,但信号很明确:这家以 Web3 与数字资产布局见长的公司正在把智能体列为新的战略重心。
11/12 07:50
TechCrunch梳理黄仁勋风波时间线:事件或波及美国AI基础设施竞争
TechCrunch于11月11日发布时间线报道,梳理围绕英伟达首席执行官黄仁勋的婚外情风波,其中涉及一名被指为中国间谍的人士。报道指出,这一事件可能对国家安全产生影响,因为美国与中国正在竞逐最先进的AI基础设施。
11/12 07:47
蒙特利尔银行上线 AI Agent Assist,智能体进入银行日常流程
Simply Wall St 报道,蒙特利尔银行(TSX:BMO)推出了名为 AI Agent Assist 的智能体辅助工具,报道把它与“估值温和低估”的判断放在同一篇分析里。标题与摘要层面没有展开具体功能、覆盖条线与上线范围,落地细节仍待银行官方说明。
11/12 07:45
Aton推出金融业“数字授权书”:只允许AI转账10万韩元
韩国媒体Money Today于11月11日报道,金融科技公司Aton面向金融行业推出“数字授权书”产品,把AI可以代为操作的边界写成可核验的授权记录。报道用标题点明核心设定:只允许AI转账10万韩元,这被视为AI代理进入真实资金环节前必须先解决的授权与限额问题。