报告显示LLM攻击平均仅需42秒，20%的越狱成功率（音频）

根据Pillar Security发布的《对GenAI攻击现状》的报告，针对大型语言模型（LLM）的攻击平均只需不到一分钟，成功时泄露敏感数据的概率达到90%。报告分析了超过2000个AI应用的遥测数据及实际攻击实例。 研究发现，每五次尝试中就有一次成功越狱，且这些攻击通常在42秒内完成，最短仅需4秒，最长则需14分钟。 此外，攻击总共只涉及五次与LLM的互动，显示了攻击的简便性和迅速性。 最常见的越狱技术包括“忽略先前指令”和“ADMIN覆盖”或直接使用base64编码。

打开APP收听