科技汇总
根据IEEE Spectrum的一项新研究，研究人员开发了RoboPAIR算法，可以成功破解大语言模型（LLM）驱动的机器人。 研究发现，该算法实现了100%的破解率，能够绕过安全防护措施，操控自驾系统碰撞行人，或使机器人犬寻找爆炸物投放地点。 该研究涉及Go2、Clearpath Robotics Jackal及Nvidia的Dolphins等三种机器人，并强调在公布研究之前，研究人员已将其发现分享给了相关机器人制造商和AI公司。 尽管知道这些潜在威胁，研究人员表示，停止在机器人领域使用LLM并非解决方案，建议加强防御以应对恶意破解行为，并认为未来需要开发具备情境意识的LLM以提高安全性。
