黑客在DEF CON大会上质疑当前AI安全测试的有效性（音频）

在全球最大的黑客会议DEF CON上，顶尖网络安全研究人员警告称，当前保护AI系统的手段存在根本缺陷，需要彻底重新思考。会议的首个《黑客年鉴》报告由芝加哥大学网络政策倡议组制作，指出单靠“红队”方法无法有效应对新兴威胁。 DEF CON的AI村负责人斯文·卡泰尔表示：“对AI模型的公共红队测试是不可能的，因为这些模型的文档存在碎片化且评估不够充分。 会议上近500名参与者对AI模型进行了测试，新手们也成功发现了漏洞。 研究人员呼吁采用类似1999年建立的传统网络安全中的常见漏洞和暴露（CVE）系统的框架，以便为文档和处理AI漏洞提供标准化方式，而不是依赖偶尔的安全审计。

打开APP收听