Source: The Verge
美国迎来了自生成AI工具流行以来的第一次总统选举。谷歌、OpenAI和微软等公司已经宣布了他们计划如何处理这个时间段。这次选举季，我们已经看到了在广告中使用AI生成的图像以及试图通过语音克隆误导选民的尝试。AI聊天机器人可能带来的潜在危害还不太被公众所看到，但聊天机器人已知会自信地提供虚假信息，包括作为对基本投票信息诚信提问的回应。在一场高风险的选举中，这可能是灾难性的。一个可能的解决方案是尽量避免与选举相关的查询。去年12月，谷歌宣布Gemini将拒绝回答美国与选举相关的问题，而是将用户转至谷歌搜索。谷歌发言人克里斯塔·莫尔顿通过电子邮件向The Verge证实，这一变化现在正在全球推行。OpenAI也表示，在今年早些时候，ChatGPT将开始引导用户前往CanIVote.org，这个网站一般被认为是最佳的本地选举信息在线资源之一。该公司目前的政策禁止了使用 ChatGPT冒充候选人或地方政府。它同样禁止利用其工具进行竞选、游说、阻止选民投票或以其他方式误导投票过程，根据更新后的规定。
AI搜索公司Perplexity的首席执行官阿拉温德·斯里尼瓦斯在接受The Verge的一份声明中称，Perplexity的算法优先考虑像新闻机构这样的“可靠和值得信赖的来源”，并始终提供链接供用户验证其输出。微软表示正在努力提高其聊天机器人回应的准确性，此前的一份报道发现，Bing，现在是Copilot，经常提供关于选举的虚假信息。微软没有回应有关其政策的更多信息请求。所有这些公司的回应（也许尤其是谷歌的）与它们以往对待选举时的其他产品方式大不相同。过去，谷歌曾与美联社合作，将事实性选举信息置于搜索结果的顶端，并试图通过在YouTube上标记来对抗关于邮寄投票的虚假主张。其他公司也做出了类似努力——参见脸书的选民注册链接和推特的反虚假信息横幅。然而像美国总统选举这样的重大事件似乎是一个真正的机会，来证明AI聊天机器人到底是不是获取合法信息的一种有效捷径。我向一些聊天机器人咨询了一些得克萨斯州的投票问题，以了解它们的实用性。OpenAI的ChatGPT 4能够正确列出七种有效选民身份证，它还指出下一次重要选举是5月28日的初选决选。Perplexity AI也正确回答了这些问题，并在最上面链接了多个来源。
Copilot得到了正确答案，甚至更好地告诉了我，如果我没有七种身份证中的任何一种该怎么办。（ChatGPT在第二次尝试时也提供了这一附录）。Gemini只是把我推给了谷歌搜索，找到了正确的关于身份证的答案，但是当我问下一次选举的日期时，一个过时的框把我引至3月5日初选。许多从事AI工作的公司都承诺要阻止或减轻对其产品的故意滥用。微软表示将与候选人和政党合作，以遏制选举错误信息。该公司还开始发布其称为关键选举外国干预的定期报告——其第一份此类风险分析是在11月发布的。谷歌表示将使用DeepMind的SynthID对使用其产品创建的图像进行数字水印标记。OpenAI和微软均宣布，将使用“内容凭证联盟（C2PA）”的数字证书来表示以AI生成的图像，并带有CR符号。但每家公司都表示，这些方法还不够。微软打算通过其网站让政治候选人举报深度伪造视频来解决这个问题。
持有Stable Diffusion图像生成器的Stability AI最近更新了其政策，禁止将其产品用于“欺诈或制造或推广虚假信息。Midjourney上周告诉路透社，“特定于即将到来的美国选举的更新即将推出。根据上周发布的DigitaI Hate Counter中心的报告，其图像生成器在制作误导性图像方面表现最差。Meta去年11月宣布，将要求政治广告商披露是否使用“AI或其他数字技术”制作其发布在该平台上的广告。该公司还禁止政治竞选团体使用其生成式AI工具。数家公司，包括以上列举的所有公司，上个月签署了一项协议，承诺创建新的方法来减轻在选举中滥用AI带来的欺骗行为。这些公司就研究和部署预防方法、为内容提供渊源（例如采用C2PA或SynthID风格的数字水印）、提高他们的AI检测能力以及集体评估和从误导性AI生成内容的影响中学习等七项“主要目标”达成一致。今年1月，德克萨斯州两家公司克隆拜登总统的声音，以阻止新罕布什尔州初选的投票。生成AI无疑会在这次选举周期中再度出现。随着2024年的选战升温，我们肯定会看到这些公司在他们构建的安全措施和承诺上受到考验。
AI技术的发展为选举带来了新挑战，如何确保这些技术在选举中不被滥用，是一个值得深思的问题。" } ```
