郭震 AI公众号:郭震AI

实时 AI 消息

Google SynthID深伪检测系统立功,成功识别AI伪造麦康奈尔住院照片

一张显示参议员米奇·麦康奈尔满身插管躺在病床上的图片近日在Reddit和X上广泛传播。经Snopes核实,该图片含有Google SynthID水印标记,确认为AI生成的伪造内容。

发布时间
Google SynthID深伪检测系统立功,成功识别AI伪造麦康奈尔住院照片
图源: techcrunch.com

本周早些时候,一张看似显示肯塔基州参议员米奇·麦康奈尔满身插管、极度痛苦地躺在病床上的图片在Reddit和X平台上广泛传播。这张图片引发了公众对这位资深议员健康状况的密集猜测。

到周三,权威事实核查网站Snopes正式辟谣,指出该图片经检测后显示包含Google设计的SynthID水印,确认为AI生成的伪造内容。SynthID水印在此次事件中完美发挥了其预设功能,成为反深度伪造技术的一次重要胜利。

麦康奈尔的健康状况自6月14日因紧急呼叫入院以来一直备受关注。此后他在公众视野中基本消失,进一步加剧了外界对其健康状况的猜测。然而在这起事件中,所谓的「证据」完全是由AI伪造而成。

SynthID于2025年Google I/O开发者大会上正式推出,其工作原理是在图像中嵌入不可见签名,仅对SynthID算法可见,对普通观察者不可察觉。由于签名直接嵌入图像本身,即使图像在多个平台上被截屏转发,水印仍然有效——正如麦康奈尔这张被大量转发的图片所验证的那样。

SynthID目前的主要局限性在于,只有主动参与该计划的图像生成工具才会嵌入水印。Google的Gemini模型自2025年计划启动以来已包含此水印。OpenAI于2026年5月加入该计划,作为打击恶意图像生成广泛努力的一部分。而Anthropic目前尚未参与。

用户可以通过向Gemini模型询问或上传图片至OpenAI的公开图像验证工具来检查图片是否包含SynthID水印。这起事件凸显了AI水印技术在打击虚假信息传播中的实际价值。

为什么重要

这起事件展示了AI水印技术在打击虚假信息传播中的实战价值,验证了SynthID跨平台溯源能力的有效性。

微博邮件

GoogleSynthIDDeepfakeMisinformation
返回实时消息

附近消息

全部