Source: The Verge
OpenAI有一个用于给ChatGPT创建的文本添加水印的系统，以及一个用于检测水印的工具，据《华尔街日报》报道已经准备了大约一年。但公司内部对是否发布这一系统存在分歧。一方面，发布看起来是负责任的举措；另一方面，可能会损害公司的利润。
OpenAI的水印被描述为调整模型预测最有可能跟在先前词组后面的词和短语，从而创建可检测的模式。(这只是简化版本，你可以查阅谷歌更深入的解释来了解Gemini的文本水印更多信息)。公司显然发现这种方案让AI文本在足够数量时可被检测到“99.9%的效果”，这对试图阻止学生将写作作业交给AI的老师可能是一大利好，同时不会影响其聊天机器人出文本的质量。
根据公司委托的一项调研，“全球人士四分之一的支持率支持AI检测工具的想法”，《华尔街日报》写道。但OpenAI担心使用水印可能会让受访的ChatGPT用户倒退，显然，近30%的用户告诉公司，如果实施水印技术，他们将减少使用该软件。一些员工也有其他担忧，比如水印可能很容易被使用各种诀窍的串通而轻易规避，例如通过谷歌翻译在多个语言之间不断回转文本或让ChatGPT添加表情符号然后再将其删除等，据《华尔街日报》报道。
尽管如此，员工们仍然认为该方法是有效的。但考虑到用户情绪的持续困扰，文章称有些人建议尝试一些“可能在用户中不那么引起争议但尚未证明有效”的方法。总比什么都不做要好。
为了保护作者权益，AI文本水印系统愈发显得必要，但如何在不伤害用户体验的前提下平衡利弊，是值得深思的问题。"
}
```
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://www.theverge.com/2024/8/4/24213268/openai-chatgpt-text-watermark-cheat-detection-tool
https://community.openai.com/t/i-am-looking-for-a-watermarking-solution/380021
https://www.wsj.com/tech/ai/openai-tool-chatgpt-cheating-writing-135b755a%3Fmod%3Dtech_lead_story
