谷歌AI检测系统识破麦康奈尔假照
AI鉴别技术成功识别虚假图片
谷歌的SynthID系统最近成功识别并揭穿了一起备受关注的AI生成虚假图片事件，这是该系统罕见但具有重要意义的成功应用。
假图片引发关注
本周早些时候，一张在网络上流传的照片声称显示肯塔基州参议员米奇·麦康奈尔躺在医院病床上，全身插满管子，处于极度痛苦状态。该图片在Reddit和X等平台上被广泛分享，但到了周三，备受尊敬的事实核查网站Snopes已经对该图片进行了辟谣，指出经过检测，该图片含有谷歌为识别AI生成图片而设计的SynthID水印。
水印技术发挥作用
简而言之，水印技术在这种情况下发挥了预期的作用，成为对抗深度伪造技术的一次胜利。
自麦康奈尔在6月14日因紧急呼叫入院以来，他的健康状况一直是外界猜测的焦点。此后，他基本上未在公众面前露面，引发外界猜测他的健康状况可能正在恶化。然而，这一次证据完全是伪造的。
SynthID技术原理
SynthID于2025年在谷歌I/O开发者大会上推出，它作为一种不可见的签名，对SynthID算法可见，但对普通观察者则设计为不可察觉。由于签名本身是嵌入图片中的，因此即使图片被跨平台截图，如麦康奈尔图片所经历的情况，签名仍然存在。
技术局限与合作伙伴
SynthID的主要局限性在于，它只能在使用图像生成工具主动参与该程序的情况下才能使用。自2025年项目启动以来，Gemini模型已包含此水印。2026年5月，OpenAI也加入了该计划，作为更广泛的打击恶意图像生成努力的一部分。然而，Anthropic并未参与该计划。
用户验证方式
用户可以通过询问Gemini模型或将图片上传至OpenAI的公开图像验证工具来检查图片是否含有水印。
随着AI生成技术的发展，虚假图片的识别技术变得越来越重要。谷歌的SynthID系统代表了科技公司在应对这一挑战方面所做的努力，尽管其应用仍存在一定限制。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！