Source: The Verge
前总统唐纳德·特朗普在周末发布了一系列看起来像是通过人工智能生成的图片，以拉拢支持他的总统候选人资格，其中包括流行歌手泰勒·斯威夫特的虚假背书。特朗普的帖子展示了他如何可能利用生成式人工智能，从而使监管AI创造的选举虚假信息的尝试变得困难，这在一定程度上归因于长期存在的允许候选人在政治广告中撒谎的法律先例。这些帖子出现在特朗普虚假指责对手副总统卡玛拉·哈里斯使用AI生成集会人群之后。特朗普发布的图片包括一张看起来像是哈里斯的照片，她背对着一群人在芝加哥演讲，这里是本周民主党全国大会的地点，背景是一个共产主义锤子和镰刀。另一条帖子包括其他用户帖子的截图，展示“斯威夫特的球迷支持特朗普”，以及最清楚地看起来是AI生成的泰勒·斯威夫特扮成山姆大叔的形象，配有“泰勒希望你投票给唐纳德·特朗普”的字样。与截图合集一起（其中只有一张标记为讽刺），特朗普写道：“我接受了！”特朗普的帖子可能不会受到越来越多的州法律针对选举深度伪造的约束，公民联合会的联合主席罗伯特·韦斯曼说。
虽然大约20个州已经颁布了涉及在选举中使用AI生成的虚假图像的法规，但它们通常禁止描绘某人以一种令人信服的方式做或说某事。韦斯曼表示：“因此，不仅仅是伪造得很逼真，也不仅仅是应用生成式人工智能做得很好，而它实际上必须是可信的。同时，在选举虚假信息方面，“没有联邦对深度伪造的使用施加限制”，韦斯曼说，指出联邦通信委员会禁止使用AI生成的声音的电话自动拨号的例外情况。这家非营利消费者倡导组织一直在努力促使联邦选举委员会限制候选人使用AI来误导对手，但它的规定可能不会涵盖像哈里斯的图像那样明显夸张，或者不描绘对手候选人的图像。不过，韦斯曼提出，斯威夫特可能对使用她的肖像来虚假发表背书有索赔权，也许是根据加州的肖像权守则，保护一个人的肖像使用。代表斯威夫特的环球音乐集团并未立即就特朗普帖子中使用她的肖像问题回应请求评论。
特朗普竞选团队也没有立即回应。法院已经多次裁定，第一修正案通常应该保护甚至故意的谎言，包括政治候选人的谎言。如果国会通过了有关AI深度伪造的法规，那不会阻止许多使用它们的行为。韦斯曼表示，受害对手需要展示谎言导致了对选民的伤害或伤害，例如，才能将其定为非法。他说：“即使我们得到了我们想要的东西，我认为我们的立法解决方案也不会完美。私人平台当然可以采取行动制止具有误导性的生成式人工智能内容，而无需政府干预。
X的合成和篡改媒体政策禁止这样的帖子“可能会欺骗或混淆人们，并导致伤害。但该平台似乎会选择性地执行规则，即使是其所有者埃隆·马斯克也似乎违反了这一规定，发布了一个没有明确标记为讽刺的哈里斯深度伪造视频。特朗普的另一个首选场所，他自己的平台Truth Social，在其社区指导方针中规则很少。韦斯曼表示：“对特朗普来说很方便，他之前在AI之前都在称所有为假的事情，现在想我们称真的事情为假 —— 比如哈里斯的人群 —— 来传播AI垃圾以破坏真实性的概念，甚至在某些方面损害现实。他说：“如果人们不能相信他们用自己的眼睛看到和听到的事物，那么建立民主社会就非常困难。
AI技术在政治中的应用不仅带来信息的虚假，更考验社会对真实性的信仰，如何在法律及道德框架内有效监管是迫切需要思考的问题。" } ```
