Source: BBC
尽管有旨在防止此类内容的规定，但人们仍然可以轻松使用人工智能工具制作虚假与选举相关的图像。CCDH的研究人员尝试绕过规定，成功制作出具有欺骗性的选举相关图像，成功率为41%。CCDH测试了四个最大的公共人工智能平台：Midjourney、OpenAI的ChatGPT Plus、Stability.ai的DreamStudio和Microsoft的Image Creator。所有这四个平台在其条款和条件中明确禁止制作具有误导性的图像。
然而，研究人员能够制作出让人对总统候选人产生困惑的图像，比如特朗普被警察带走的手铐和担架上的乔·拜登的照片。他们甚至可以轻松制作出相当真实的图像，可能会破坏人们对选举系统的信任。根据数据库，Midjourney的用户已经制作出可能具有误导性的图像，包括拜登向以色列总理本杰明·内塔尼亚胡递钱和特朗普与俄罗斯总统普京一起高尔夫的假照片。研究人员还发现一些潜在误导性图像进入主流社交媒体平台。
一项调查发现AI图像利用正面展示特朗普的照片正在针对非裔美国人。研究人员输入40个关于2024年美国总统选举的文本提示到AI引擎中，大多数尝试制作有关选票和投票地点的误导性图像都成功了近60%。要坚持AI公司的遵守意愿，他们可以引入关键词过滤器和禁止制作真实政治家的图像等潜在修复措施。
伦理AI风险顾问公司Virtue的创始人和CEO雷德·布莱克曼表示，水印照片是另一个潜在的技术解决方案。张先生还指出，AI可能并不会对人们的政治信仰产生有意义的影响，“人们通常不太容易被说服”他说，“他们有自己的立场，向他们展示一些图像不会改变这些立场。斯坦福大学人类中心人工智能项目的政策倡议高级经理丹尼尔·张表示，“独立事实核查人员和第三方组织”在遏制AI生成的虚假信息方面至关重要。
人工智能技术的发展为虚假信息的传播提供了新的途径，如何治理AI生成的虚假信息成为亟待解决的难题。" } ```
