Source: Slashdot
一篇关于“机器制造的数字营养来源”对生成式AI带来风险的新文章在ScienceAlert上。美国的莱斯大学和斯坦福大学的研究人员进行的新研究提供了证据，当AI引擎接受合成的、机器制造的输入训练，而非实际人类创作的文本和图像时，其输出质量开始下降。研究人员称这种效应为模型自相残食障碍(MAD)。AI会自我消耗，如同牛的神经系统障碍，其障碍是由于食用被感染的其他牛的遗体引起的。
研究显示，缺乏新鲜真实世界的数据，AI生成的内容在质量、多样性方面下降。这是一种关于AI模型可能带来的未来垃圾内容的警告。莱斯大学的计算机工程师理查德·巴拉尼克表示：“我们的理论和实证分析使我们能够推断出，随着生成模型变得普遍，并在自我消耗循环中训练未来模型，可能会发生什么。
某些影响是明显的：缺少足够的新鲜真实数据，未来的生成模型注定要发生自相残食症。文章指出，在没有新鲜、由人生成的训练数据参与时，面孔开始彼此越来越相似。在使用手写数字进行测试时，数字逐渐变得无法分辨。
在使用真实数据但没有添加新数据的情况下，输出的质量仍然下降，只是需要更长时间才能崩溃。看来新鲜度是至关重要的。感谢长期关注Slashdot的读者schwit1分享这一消息。
未来AI的发展离不开对于新鲜、真实数据的需求，如同生态系统中物种多样性一样，数据的多样性才能产生更高质量的智能创作。
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://slashdot.org/story/24/08/10/0527249/cannibal-ais-could-risk-digital-mad-cow-disease-without-fresh-data?utm_source=rss1.0mainlinkanon&utm_medium=feed
https://www.sciencealert.com/cannibal-ais-could-risk-digital-mad-cow-disease-without-fresh-data
https://feedland.org/%3Fitem%3D14248521
