郭震 AI公众号:郭震AI

实时 AI 消息

OpenAI 公布应对欧盟文本溯源规则的方案

OpenAI 发布官方说明,介绍其在欧盟文本溯源规则下推进文本水印的整体思路,涵盖水印适用的范围以及检测机制如何运作。公司同时表示,相关检测能力的开放将先从研究人员开始,再逐步扩大使用范围。

发布时间

OpenAI 在其官方博客发布了一篇说明,介绍公司为应对欧盟文本溯源规则而采取的文本水印方案。文章从整体思路入手,讲清楚这套机制要解决什么问题,以及 OpenAI 打算如何把它落地。

按照这份说明的描述,方案首先明确了水印适用的范围,也就是哪些由模型生成的文本会被加上可识别的标记。对于关心 AI 内容透明度的人来说,这一步决定了溯源能力能覆盖到多大的场景。

说明还介绍了检测机制如何运作。水印本身并不改变文本对读者的可读性,关键在检测端——需要通过专门的工具才能判断一段文本是否携带标记。

一个值得注意的细节是访问顺序。OpenAI 表示,检测能力的开放会从研究人员开始,而不是一上来就面向所有人。这意味着在早期阶段,验证水印的主要是研究社区,而非普通用户或第三方产品。

这一表态的看点在于,欧盟的文本溯源要求正在把内容是否可追溯变成一项需要提前准备的能力。对 OpenAI 而言,公开说明实现路径,既是合规姿态,也是在为后续更广范围的落地做铺垫。

接下来值得关注的是,研究人员之后会不会出现面向开发者和普通用户的检测入口,以及其他主要模型厂商会不会给出类似的水印与检测方案。

为什么重要

内容溯源正在从可选项变成合规必需品,OpenAI 选择先与研究人员对接检测能力,也为后续面向更广用户开放留出了空间。

微博邮件

OpenAIPolicy
返回实时消息

附近消息

全部

10/06 00:43

HackerRank 的 AI 面试官已完成超 50 万场面试

HackerRank 的 AI 面试官已经完成超过 50 万场面试,Snowflake、Snorkel 和 Capgemini 等公司是其早期测试者。这款工具让外界得以一窥 AI 主导的招聘面试未来会是什么样子。

10/05 20:00

机器人安全评测公司 Safeworld 出隐身,获超 1200 万美元种子轮

据 TechCrunch 10 月 5 日报道,机器人安全评测初创公司 Safeworld 正式结束隐身状态,并完成超过 1200 万美元种子轮融资,由 Shine Capital 与 a16z Speedrun 联合领投。公司由卡内基梅隆大学 Safe AI 实验室负责人 Ding Zhao 创立,在充满逼真人形模型的仿真环境中反复测试机器人控制系统。

10/05 19:43

Coforge推出「意图工程」框架,为企业AI智能体补上决策治理

印度IT服务与数字工程公司Coforge发布了一套名为「意图工程」的框架,专门面向部署AI智能体的企业,为自主系统的决策加上一层治理结构。该框架把企业AI划分为提示工程、上下文工程与意图工程三层,强调用目标、约束与可衡量的业务成果,来界定智能体应当追求什么以及何时交还人类监督。

10/05 19:00

Snaplii 为 AI 智能体推出独立消费钱包,并附带返现

Snaplii 发布面向 AI 智能体消费的独立钱包,主打把智能体支出与用户主账户分离,并提供返现。稿件同时以 Muse 登顶应用商店、Instinct 完成 10 亿美元融资作为行业背景,显示智能体与应用赛道的热度仍在上升。