Source: CBC
Meta平台将在未来几个月内开始检测并标注其他公司人工智能服务生成的图像，使用内置文件的一组不可见标记，该公司的高级政策执行官周二表示。Meta将为带有标记的内容添加标签，并发布到其Facebook、Instagram和Threads服务上，以向用户传达信息，即这些图像——在许多情况下与真实照片相似——实际上是数字创作，该公司全球事务总裁尼克·克莱格在一篇博文中写道。该公司已经为使用自己的AI工具生成的任何内容添加标签。一旦新系统投入使用，Meta将为在由OpenAI、微软、Adobe、Midjourney、Shutterstock和Alphabet旗下的Google运行的服务上创建的图像执行相同操作，克莱格表示。这一声明为科技公司正在开发的一种新兴的标准技术系统提供了一个初步的窥视，该系统旨在缓解与生成式AI技术相关的潜在危害，这些技术可根据简单提示生成虚假但逼真的内容。
该方法是在过去十年间由一些同样的公司奠定的一个模板，以协调跨平台移除被禁内容，包括大规模暴力和对儿童的剥削描述。克莱格在接受路透社采访时表示，他对这些公司能够可靠地标记AI生成的图像感到有信心，但表示标记音频和视频内容的工具更复杂，仍在开发中。尽管技术在音频和视频方面尚未完全成熟，但希望我们能够创造出一种动力和激励，促使整个行业跟进，”克莱格表示。他补充说，在此期间，Meta将开始要求人们为自己修改的音频和视频内容添加标签，如果未能这样做将采取惩罚措施。
克莱格并未描述这些惩罚措施。他还表示，目前尚无可行的机制为类似ChatGPT的AI工具生成的文本标记标签。那艘船已经起航了，”克莱格称。Meta的一位发言人拒绝透露该公司是否会给其加密消息服务WhatsApp上分享的生成式AI内容添加标签。
Meta独立的监管委员会在周一批评了该公司关于误导性篡改视频的政策，称其过于狭隘，内容应该标记而不是移除。克莱格表示，他基本上同意这些批评。他说，委员会是正确的，Meta现有的政策“在会有比以前更多的合成内容和混合内容的环境中根本不适用。他引用了这种新的标记合作伙伴关系作为Meta已经朝着委员会提出的方向迈出的证据。
人工智能在生成虚假内容方面的技术发展迅猛，标记AI生成的图像只是缓解潜在危害的第一步，如何应对音频和视频内容的保护仍需探索和发展。
