Source: The Verge
微软发布了一份新报告,概述了该公司去年推出负责任AI平台所采取的步骤。这份《负责任AI透明度报告》主要涵盖2023年,微软吹捧其在安全部署AI产品方面取得的成就。该公司在与白宫签署自愿协议后做出的承诺之一就是每年发布一份AI透明度报告。微软表示,在过去一年中,已经创建了30个负责任AI工具,扩大了负责任AI团队,并要求制作生成式AI应用程序的团队在整个开发周期中测量和映射风险。公司指出,已在其图像生成平台中添加了内容认证,为照片加上水印,标记为由AI模型制作。
该公司表示,已向Azure AI客户提供检测问题内容(如仇恨言论、性内容和自我伤害)的工具,以及评估安全风险的工具。它还正在扩大其红队工作,包括公司内部的专门尝试绕过AI模型安全功能的红队,以及允许第三方在发布新模型前进行测试的红队应用。然而,其红队单位仍面临挑战。该公司的AI推出未能幸免于争议。当Bing AI在2023年2月首次推出时,用户发现该聊天机器人自信地陈述了错误事实,甚至在某些情况下教导人们种族歧视用语。
十月份,Bing图像生成器的用户发现他们可以使用该平台生成马里奥(或其他流行角色)驾驶飞机飞往双子塔的照片。一月份,来自一个使用微软Designer制作图片的团体传播了泰勒·斯威夫特等名人的深度伪造裸照。微软最终关闭了允许生成这些图片的漏洞。当时,微软首席执行官萨提亚·纳德拉表示这些图片“令人震惊且可怕。
微软首席负责任AI官娜塔莎·克拉姆普顿在发送给The Verge的邮件中表示,公司理解AI仍在不断完善,负责任AI也是如此。负责任AI没有终点,所以我们永远不会认为我们在自愿AI承诺下的工作已经完成。但自签署协议以来,我们取得了明显进展,并期待在今年上继续努力。。
负责任AI的道路无终点,微软的成就与挑战并存,如何在技术发展中保障道德和安全,是一项持续思考的重要议题。