研究人员展示新黑客技术：利用提示注入破坏Gemini长期记忆（音频）

研究者Johann Rehberger展示了一种新方法，能够绕过Google为Gemini开发的提示注入防御。 这种攻击允许在未来的对话中永久植入错误信息，从而使聊天机器人基于不可信的数据作出反应。 Rehberger的攻击首先要求用户上传文档，并在其中包含隐藏指令，操控Gemini的总结过程，进而在用户使用某些触发词回复时，Gemini被误导，将攻击者选择的信息保存至长期记忆。 尽管Google表示这种攻击的影响较低，但Rehberger对首个长时间记忆的腐败表示了关注，强调了计算机记忆损坏的严重性。

打开APP收听