Source: Slashdot
要求ChatGPT无限重复特定词汇'Forever'现在被标记为聊天机器人的服务条款和内容政策的违规行为。
谷歌DeepMind研究人员使用了该策略，让ChatGPT无限重复其训练数据的部分内容，从而揭示了普通人的敏感个人可识别信息(PII)，并突显了ChatGPT是通过从互联网随机抓取的内容进行训练。
在该论文中，DeepMind研究人员要求ChatGPT 3.5-turbo无限重复特定词汇'Forever'，然后导致该机器人一遍又一遍地返回该词汇，直到达到某种限制。
此后，它开始返回大量从互联网上抓取的训练数据。
人工智能技术的发展和应用，带来了很多新的问题和挑战，我们需要持续关注并规范其使用，保护用户的隐私与权益。
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://it.slashdot.org/story/23/12/04/171259/asking-chatgpt-to-repeat-words-forever-is-now-a-terms-of-service-violation?utm_source=rss1.0mainlinkanon&utm_medium=feed
https://www.wired.com/story/chatgpt-poem-forever-security-roundup/
https://www.404media.co/asking-chatgpt-to-repeat-words-forever-is-now-a-terms-of-service-violation/
