Source: CBC
加拿大名人如电视厨师 Mary Berg、歌手 Michael Bublé、喜剧演员 Rick Mercer 和曲棍球巨星 Sidney Crosby 终于透露了他们的财务成功秘密。不过，这些都不是真的，社交媒体上的骗子似乎在卖这些虚假的魔法豆，吸引用户点击耸人听闻的帖子，例如 Berg 被逮捕，Bublé 被拖走，然后带他们来到似乎是 CTV News 网站上的一个合法新闻故事。如果你对这篇看似由人工智能生成的文章感兴趣，你将有充分的机会点击大量链接——在单个页面上约有225个链接——引导你注册并交出350刀的首次投资，据称这笔投资将在七天内增加超过10倍。这些只是一批以深度伪造广告、文章和视频来利用著名加拿大人的姓名、形象、片段甚至声音来推广投资或加密货币计划。
专门研究深度伪造和人工智能生成内容的律师警告说，他们目前几乎没有法律救济措施，加拿大的法律进展远远没有技术本身发展得那么快。金融骗局和伪造名人形象的计划并不新鲜，但快速发展的生成AI技术为“一种非常古老的概念增添了新变化”，多伦多Torys 律师事务所的合伙人 Molly Reynolds 说。她表示，事态将在变得更糟之前好转。开发工具和法律来防止这种事情发生是一场我们已经输掉的追赶游戏，她说。
尽管互联网上有很多明显是由人工智能生成的内容，但渥太华大学计算机科学教授 WonSook Lee 表示，现在有些内容是如此好，以至于很难判断它的真实性。她表示，即使在几年前，她只需看一眼就能立即辨别出人工智能生成的图像或人物深度伪造视频，察觉到像素或构图方面的差异。但现在有些程序可以创造出几乎完美的照片和视频。
她补充说，不够完美的生成内容还可以通过照片和视频编辑软件进一步修改。她还说，在我们学习人工智能的同时，人工智能也在变得更加智能。如果我们找到检测深度伪造的方法，我们就是在帮助深度伪造变得更好，”她说。
在人工智能生成的世界中，真假已难以分辨，我们需要保持警惕和判断力
