Source: BBC
去年11月，Muralikrishnan Chinnadurai 在英国观看泰米尔语活动直播时，发现一个奇怪之处。一个名为 Duwaraka，自称是塔米尔猛虎武装力量首领 Velupillai Prabhakaran 的女儿，演讲中。问题在于，Duwaraka 在十多年前的2009年斯里兰卡内战末期的空袭中去世，年仅23岁，其尸体从未被找到。现在，一位看似中年妇女正激励全球的泰米尔人继续为自由而奋斗。Chinnadurai 先生是印度南部泰米尔纳德邦的一个事实核查工作者，他仔细观看了视频，注意到视频中的问题，并很快确认这是人工智能生成的虚拟人物。Chinnadurai 先生立刻意识到潜在的问题：“这在邦内 [泰米尔纳德邦] 是一个感情问题，选举在即，错误信息可能迅速传播。随着印度投票进行，难以避免的是 AI 生成内容的大量出现 - 从竞选视频到各种印度语言的定制音频消息，甚至以候选人的声音自动拨打选民电话。像 Shahid Sheikh 这样的内容创作者甚至利用 AI 工具玩乐，展示印度政治家的新形象：穿着运动休闲服、演奏音乐和跳舞。但随着工具变得更加复杂，专家们对于 AI 如何使虚假新闻看起来真实表示担忧。印度政党并不是世界上第一个利用 AI 近期发展的机会。在巴基斯坦边境上，允许被囚禁的政治家伊姆兰·汗发表演讲。
在印度本国，总理纳伦德拉·莫迪也已经充分利用新兴技术有效地开展竞选活动 - 用印度政府创建的 AI 工具 Bhashini 在现场翻译为泰米尔语。但它也可以被用来操纵文字和信息。上个月，两个病毒视频显示宝莱坞明星 Ranveer Singh 和 阿米尔·汗 为反对党国大党竞选。两位明星都报警称这些都是未经允许的深度伪造视频。随后，4月29日，莫迪总理提出担忧，称 AI 被用来扭曲执政党高级领导人的演讲。第二天，警方逮捕了两名人，分别来自反对党印度公民联盟和国大党，涉及操纵内政部长阿米特·沙阿的视频。莫迪的印度人民党也面临来自全国各地反对派领导人的类似指控。但尽管有逮捕，专家们表示，没有全面的规定，意味着，根据数据和安全研究人员 Srinivas Kodali，如果你被抓到做错事，最多只会被轻罚。在缺乏规范的情况下，创作者对 BBC 透露，他们必须依靠个人道德来决定他们选择做或不做的工作。创作者告诉 BBC，他们从政客那里接到的请求包括色情图像，以及修改对手的视频和音频以损害他们的声誉。TID 创始人 Divyendra Singh Jadoun 透露：“有人曾要求我制作一个原创内容看起来像深度伪造，因为原始视频，如果广泛传播，会让政治家看起来很糟糕。
虽然 Jadoun 先生坚持在他制作的所有东西上标明免责声明，以确保其不是真实的，但仍然很难控制。Sheikh 先生在印度东部西孟加拉邦的一家营销机构工作，看到自己的作品未经许可或未提到来源就被政客或政治页面在社交媒体上分享。有一个政客没有上下文地使用我制作的莫迪先生的图像，并没有提到它是使用 AI 制作的，”他说。现在，任何人都可以轻松制作深度伪造。Jadoun 先生解释道：“我们以前要花七八天才能做的事现在只需三分钟就能完成。你只需要一台电脑。尽管存在风险，印度最初表示并没有考虑 AI 法律问题。然而，今年三月，在 Google 的 Gemini 聊天机器人对一个询问“莫迪是法西斯主义者吗？”的回答引发轩然大波后，印度迅速采取行动。该国初级信息技术部长 Rajeev Chandrasekhar 表示，此举违反了该国的信息技术法。自那时起，印度政府要求科技公司在公开发布“不可靠”或“未经测试”的生成式 AI 模型或工具之前得到其明确许可。
它还警告称，这些工具的回应不得“威胁选举过程的完整性。但这还不够：事实核查人员表示，跟踪辟谣此类内容是一项艰巨任务，特别是在选举期间，错误信息达到顶峰。信息以100公里每小时的速度传播，”在泰米尔纳德邦经营媒体监督的 Chinnadurai 先生表示。我们发布的辟谣信息则以20公里每小时的速度传播。数据和安全研究人员 Kodali 先生表示，这些虚假信息甚至已经进入主流媒体。尽管如此，"选举委员会对于 AI 保持沉默。在大局上没有规则，”Kodali 先生说。与其制定实际规定，他们让技术行业自行监管。专家表示，目前看来并没有确切的解决方案。但[目前]如果对传播虚假信息的人采取行动，可能会吓阻他人不敢分享未经验证的信息，”Qureshi 先生表示。
在信息时代，AI 技术的滥用可能对选举进程和国家稳定产生极大危害，值得引起广泛关注和警惕。" } ```
