Source: BBC
美国政界人士呼吁出台新法律,将深度伪造图片的创作行为定为犯罪行为,此前泰勒·斯威夫特的色情伪造照片在社交媒体上被观看了数百万次。这些照片被发布在包括X和Telegram在内的社交媒体网站上。美国众议员乔·莫雷尔称这些照片的传播“令人震惊。X在一份声明中表示正在“积极删除”这些照片,并对传播照片的帐户采取“适当的行动。声明还称:“我们正在密切监控这一情况,确保立即解决任何进一步的违规行为,并删除相关内容。
虽然很多图片在发稿时已被删除,但据报道,其中一张斯威夫特的照片在撤下之前被观看了4700万次。深度伪造使用人工智能(AI)通过操纵某人的脸部或身体制作视频。2023年的一项研究发现,自2019年以来伪造图片的创作增长了550%,这是AI的出现推动的。目前还没有针对分享或创建深度伪造图片的联邦法律,尽管在州一级已经采取了应对此问题的措施。英国在2023年将分享深度伪造色情内容定为非法,作为其在线安全法的一部分。
民主党众议员莫雷尔去年提出了《防止发布隐私伪造视频法案》,该法案将分享没有同意的深度伪造色情内容定为非法,他对这个问题呼吁紧急行动。他说,这些图片和视频“可能造成无法挽回的情感、财务和声誉损害——不幸的是,女性受到的影响更为严重。根据去年发布的《深度伪造报告》,大部分在线深度伪造内容是色情,女性在受到此类内容的攻击中占到99%。民主党众议员伊维特·D·克拉克在X上发文表示:“泰勒·斯威夫特遭遇的并不是什么新鲜事。她指出女性多年来一直成为这一技术的目标,并补充称在“AI的进步下,制作深度伪造变得更加容易和廉价。
共和党众议员汤姆·基恩也表示同意,他说“很明显,AI技术的进步速度超过了必要的监管措施。他补充道:“无论受害者是泰勒·斯威夫特还是我国的任何年轻人,我们都需要建立防范措施来应对这一令人担忧的趋势。斯威夫特尚未公开就这些照片发表评论,但《每日邮报》报道称她的团队正“考虑采取法律行动”针对发布AI生成的图片的网站。伴随全球数十亿人民今年进行选举投票,对AI生成内容的担忧不断加剧。本周,冒充美国总统乔·拜登的伪造电话被AI制作引发了一项调查。
AI技术的进步远远超越了监管措施的步伐,我们需要制定相应的法律来应对深度伪造图片所带来的问题。