Source: CBC
从虚假的战争图片到名人绯闻，人工智能技术在网上孵化了新形式的现实扭曲虚假信息。一项由Google、杜克大学等机构研究人员共同撰写的新分析显示，这个问题增长之快令人惊讶。研究发表在上周的预印本中，介绍了一项追溯至1995年的大规模新数据集，由Snopes等网站进行了事实核查。研究人员表示，数据显示，AI生成的图片迅速崭露头角，几乎和更传统的操纵形式一样受欢迎。研究首先在404 Media上报道，被Faked Up通讯发现，清楚地显示，“AI生成的图片在整体内容操纵中只占极小比例，直到去年初”，研究人员写道。去年，包括OpenAI、微软和Google自身在内的科技巨头发布了新的AI图片生成工具。如今，AI生成的虚假信息“几乎和文本以及一般内容操纵一样普遍”，论文指出。
研究人员指出，AI图片事实核查的增长与AI技术的普遍热潮同时发生，这可能导致网站关注该技术。数据集显示，近几个月来，事实核查AI图片的速度有所放缓，传统的文本和图片操纵则呈增长趋势。该研究还研究了其他形式的媒体，发现视频恶作剧现在占到所有包含媒体的事实核查声明的约60%。然而，这并不意味着AI生成的虚假信息减少，机器学习平台Hugging Face的AI伦理研究员Sasha Luccioni表示。就我个人而言，我觉得这是因为有太多[AI虚假信息的例子]，以至于很难跟踪！”Luccioni在一封电子邮件中说道。我经常看到它们，即使不是在社交媒体上，比如在广告中。已经有人利用AI生成虚假的真实人物图片，带来了令人担忧的影响。
例如，今年早些时候传播的泰勒·斯威夫特的伪裸照。404 Media报道称，用于创建这些图片的工具是微软的AI生成软件，该软件从ChatGPT制造商OpenAI获得许可，导致这家科技巨头关闭了允许生成这些图片的漏洞。这种技术还以更无害的方式愚弄了人们。最近有伪造的照片显示凯蒂·佩里参加纽约大都会艺术博物馆慈善晚宴，而事实上她并没有出席，愚弄了社交媒体上的观察者甚至这位明星的父母。AI的崛起给社交媒体公司和谷歌自身带来了头疼。由于SEO驱动的内容工厂，虚假名人图片曾在谷歌图片搜索结果中占据显著位置。利用AI操纵搜索结果违反了谷歌的政策。
谷歌发言人未立即置评。此前，一位发言人告诉科技新闻媒体Motherboard，“当我们发现低质量内容排名靠前时，我们会制定可扩展的解决方案，不仅改善一个搜索结果，还能适用于一系列查询。为了解决AI伪造的问题，谷歌推出了诸如数字水印等解决方案，将AI生成的图片标记为伪造，并且这个标记对人眼来说是不可见的。谷歌与微软、英特尔和Adobe等公司也在探讨给创作者添加可见水印到AI生成图片的选项。Luccioni表示，“我认为如果大型科技公司在AI水印的标准上进行合作，肯定会帮助整个领域。。
AI技术带来的虚假信息如影随形，想要识别真假不易，AI水印或许是保障信息真实性的方法之一。
