Source: The Verge
美国总统乔·拜登的行政命令是政府首次采取行动应对人工智能面临的一些最大挑战，比如如何判断图像是否真实或伪造。除了其他要求外，这份周一签署的行政命令呼吁制定一套由政府主导的数字水印AI生成内容的标准。与照片或纸币上的水印类似，数字水印有助于用户区分真假物体并确定其所有者。这似乎是一个简单的解决方案，并得到了白宫和科技行业的支持。数字水印技术有潜力，但并非绝对可靠，专家担心其单独使用可能不够有效。许多领先的AI公司已经在其产品中加入了数字水印技术。一些方法简单易剪裁，例如OpenAI在DALL-E图像上的标记，但其他方法则更为持久。例如，Google在八月份宣布了SynthID的Beta版本，它是一种无法察觉地直接插入图像像素中的数字水印。这种方法既避免了降低或标记图像的问题，又能让AI识别软件在剪裁或调整大小后仍能对其进行身份验证。
将数字水印嵌入像素和元数据中的“高扰动”方法被证明是对有害的欺骗行为的最有希望解决方案之一。然而，像SynthID这样的产品并不能成为唯一的解决方案。Google自己也表示，该技术“无法防范极端图像篡改。有越来越多的研究支持这一观点。本月初，马里兰大学的研究人员发布了一份预印论文，解释了他们利用当前技术能够破坏所有可用的数字水印方法的许多方式。该团队不仅能够破坏这些水印，还能够在图像中插入伪造的水印，从而造成虚假阳性结果。由于DALL-E和Midjourney等服务使图像生成前所未有的易于实现，因此互联网上到处都是由AI生成的伪造内容。一些图像是相对无害的，比如病毒传播的搞笑图像，但其他图像可能存在更严重的后果，如政治或社会影响。
数字水印技术在应对AI虚假信息方面具有潜力，但仍需进一步研究和探索其有效性及局限性。
