Source: BBC
一项利用人工智能冒充苏丹前领导人奥马尔·巴希尔的活动在TikTok上受到数十万次点击,给这个饱受内战蹂躏的国家增添了网络困惑。自8月底以来,一个匿名账号一直发布声称是巴希尔的“泄露录音。该频道发布了几十个剪辑,但其中的声音是伪造的。巴希尔被指控组织战争罪行,并于2019年被军方推翻,一年来未出现在公众面前,据信他病情严重。他否认了战争罪行指控。在军方与对立的快速支援部队民兵组织4月爆发战斗之后,巴希尔下落的神秘性给这个国家的危机增加了一层不确定性。专家表示,这类任务的意义在于它们展示了新工具如何通过社交媒体迅速且廉价地传播虚假内容。最让我担心的是,这种先进的音频和视频操纵技术的获取实现了民主化。美国加利福尼亚大学伯克利分校数码取证研究员哈尼·法里德说道。
数十年来,有能力操纵现实的高级行为者一直存在,但现在即使是技术水平很低或几乎没有技术专长的普通人也能迅速轻松地制造虚假内容。这些录音发布在一个名为“苏丹之音”的频道上。这些帖子似乎是从政变期间的新闻发布会、新闻报道以及几个被归因于巴希尔的声称“泄露录音”中组成的。这些帖子往往假装来自会议或电话交谈,并且声音像是通过坏电话线传输,听上去颗粒感很强。为了验证其真实性,我们首先咨询了英国广播公司监视部门的苏丹专家团队。易卜拉欣·海萨尔告诉我们,这些录音不太可能是最近的:“声音听起来像巴希尔,但他在过去几年里一直很生病,怀疑他能够说出如此清晰的话。这并不意味着这不是他的声音。我们还检查了其他可能的解释,但这不是一个被重新发现的旧剪辑,也不太可能是模仿者的作品。
AI语音克隆技术能够制造虚假内容,对社交媒体的滥用将给战争蹂躏的国家带来额外的混乱。