Source: Slashdot
微软的AI工程师表示，他在12月初发现了OpenAI的DALL-E 3图像生成器的漏洞，允许用户绕过安全防护措施来创建暴力和露骨的图像，并且该公司阻止了他之前对此问题公开关注的尝试。上周出现的Taylor Swift的露骨Deepfake图像“是我担心的滥用类型的例子，也是我敦促OpenAI撤销DALL-E 3公共使用，并向华盛顿州的司法部长和国会代表报告我的担忧的原因”，微软首席软件工程师Shane Jones在周二写给华盛顿州的司法部长和国会代表的信中写道。上周404 Media报道称，Swift的假露骨图像源于“专注于虐待女性图像的特定Telegram群组”，指出该群组中至少有一个AI工具常用的是Microsoft Designer，该工具部分基于OpenAI的DALL-E 3技术。Jones在给山姆·帕蒂·默里和玛丽亚·坎特威尔参议员，亚当·史密斯众议员和检察长鲍勃·弗格森周五致给GeekWire网站获取的信函中写道，在DALL-E 3和使用DALL-E 3的Microsoft Designer等产品中存在的漏洞使人们更容易滥用AI来生成有害图像。他补充说：“微软知道这些漏洞和滥用的潜力。Jones写道，他在12月初独立发现了这个漏洞。
根据信件，他将漏洞报告给了微软，并被告知将此问题报告给其紧密合作伙伴OpenAI。他写道他确实向OpenAI报告了这个问题。他写道：“当我继续研究与此特定漏洞相关的风险时，我意识到DALL-E 3具备生成暴力和令人不安的有害图像的能力。基于我对该模型训练方式的了解和我发现的安全漏洞，我得出结论DALL-E 3构成了公共安全风险，应在OpenAI能够处理与该模型相关风险之前将其从公共使用中移除。他写道，12月14日，他在LinkedIn上公开呼吁OpenAI的非营利董事会将DALL-E 3从市场上撤出。
根据信件，他通知了微软的领导团队这篇帖子，很快他的经理就与他联系，称微软法律部门要求他立即删除帖子，并会给出解释或理由。他同意在这个基础上删除帖子，但从未收到微软法律部门的回复，他写道。他写道：“在接下来的一个月里，我多次要求解释为什么要求我删除我的信件。我还提出愿意分享有助于修复我发现的漏洞和提供使AI图像生成技术更安全的想法的信息。微软法律部门仍未回复或直接与我沟通。
他补充说：“人工智能正在以前所未有的速度发展。我知道制定法规以确保AI的公共安全需要时间。同时，我们需要追究公司对其产品安全和对公众公开已知风险的责任。像我这样的担心员工不应该被威胁到保持沉默。Jones的信的完整文本可以在这里阅读（PDF）。
人工智能的滥用带来了新的挑战，需要同时关注技术的发展和公众的安全。
