Source: Slashdot
谷歌于5月通过其Gemini AI模型推出了SynthID工具包，为AI生成的内容嵌入水印，该水印称为“对人类无法察觉”，但可以通过算法轻松可靠地检测到。现在，谷歌将SynthID系统开源，免费提供给开发者和企业。
这一举措为整个AI行业提供了一种简便且似乎有效的方法，用于静默标记内容为人工生成，这对检测深度伪造和其他有害的AI内容可能非常有帮助。然而，仍然存在一些重要的局限性，可能会阻碍AI水印在行业内成为普遍标准。
谷歌使用SynthID对其多模态AI系统生成的音频、视频和图像进行水印，其技术在一段视频中有简要说明。此外，谷歌研究人员在《自然》上发表的新论文详细介绍了SynthID如何在Gemini模型文本输出中嵌入不可见水印。
该文本水印过程的核心是插入到大型语言模型（LLM）常规标记生成循环中的抽样算法。该算法使用谷歌提供的密钥生成的随机种子，提高某些标记在生成过程中的选择可能性。
在这个快速发展的AI时代，我们是否能确保技术的进步永远服务于人类的善良与美好？
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://news.slashdot.org/story/24/10/24/206215/google-offers-its-ai-watermarking-tech-as-free-open-source-toolkit?utm_source=rss1.0mainlinkanon&utm_medium=feed
https://spectrum.ieee.org/watermark
