Source: The Verge
谷歌近日宣布，其合成ID（SynthID）文本水印技术现已通过谷歌负责任生成AI工具包开源，旨在帮助识别AI生成的文本。谷歌DeepMind研究副总裁Pushmeet Kohli表示，这项技术将使其他开发者能更方便地判断文本是否源自自己的大型语言模型，从而促进负责任的AI开发。
水印在打击政治虚假信息和恶意内容生成方面变得愈发重要。加州正在考虑强制要求AI水印，而中国政府则从去年开始对此有要求。
SynthID的工作原理是在生成的文本中调整概率，从而创建可被软件检测但不被人类察觉的水印。这一系统已经集成在谷歌的Gemini聊天机器人中，声称不会影响生成文本的质量、准确性和创造力。
尽管SynthID在短文本或修改过的内容上表现有限，但它是开发更可靠的AI识别工具的重要基础。
在技术与伦理之间，我们应该如何找到一个平衡点，才能让AI更好地服务于人类？
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://www.theverge.com/2024/10/23/24277873/google-artificial-intelligence-synthid-watermarking-open-source
https://bioethics.com/archives/94156
https://spectrum.ieee.org/watermark
