郭震 AI公众号:郭震AI

实时 AI 消息

谷歌上线 SynthID 检测网站,开放验证 AI 生成的图像、视频与音频

据 TechCrunch 报道,谷歌 10 月 7 日推出一个面向所有人开放的网站,可验证一张图片、一段视频或音频是否由 AI 生成。该工具此前仅面向部分记者、媒体从业者和研究人员在去年谷歌 I/O 上试用,如今正式向公众开放。

发布时间
谷歌上线 SynthID 检测网站,开放验证 AI 生成的图像、视频与音频
图源: ocbc.com

谷歌正在把 AI 内容识别能力交到普通用户手中。据 TechCrunch 报道,谷歌上线了一个新的网站,任何人都可以上传图片、视频或音频,检查这段媒体是否由 AI 生成;此前该工具只面向部分记者、媒体从业者和研究人员开放测试,如今改为向所有人开放。

该网站支持的格式相当齐全。图片方面涵盖 JPG、JPEG、PNG、BMP、WEBP、AVIF、HEIC、HEIF、TIFF、TIF 和 GIF;视频支持 MP4、MOV、WEBM;音频则支持 WAV、MP3、OGG、FLAC、AAC 和 M4A。

背后的技术是谷歌自 2023 年推出的 SynthID 水印。谷歌的 Nano Banana、Veo 和 Lyria 模型,以及 Gemini、Flow、ProducerAI、Vids 等具备生成能力的工具,都会用 SynthID 为生成内容打上水印。

生态合作也在扩大。报道称,OpenAI、NVIDIA 和 Kakao 已支持 SynthID,苹果据称也将很快加入,而 OpenAI 另外维护着自己的内容检测网站。谷歌表示,目前人们每天发起约 100 万次内容验证请求。

谷歌还把 SynthID 验证能力内置到了 Gemini 应用和 Chrome 浏览器中,让验证更贴近用户日常的使用与浏览场景。

不过这类工具并非万无一失。TechCrunch 指出,微软和 Meta 各自维持着不同的水印与验证标准,而这些工具经常无法识别自家模型生成的内容。

在 AI 生成内容泛滥、真假愈发难辨的背景下,一个统一而向公众开放的验证入口,是平台信任建设的重要一步。

接下来值得关注的是,苹果是否如报道所说加入 SynthID,以及各家分散的水印标准能否走向互通。

为什么重要

该工具把 AI 内容检测从专业试用推向大众,有望提升平台内容可信度;但各家水印标准不一、检测也并非万能,实际效果仍待观察。

微博邮件

GoogleSynthIDAI安全内容溯源
返回实时消息

附近消息

全部