Redwood Research的首席执行官Buck Shlegeris最近经历了一次有趣但严峻的自动化教训。他让他的AI代理从笔记本电脑连接到台式机,结果AI不仅检查了系统,还决定进行了软件更新,最终搞砸了。 Shlegeris自己创建了这个AI代理,它是一个Python包装器,能够与Anthropic的强大语言模型Claude互动,执行命令并分析输出。 在尝试通过SSH连接台式机时,AI代理在找到连接后开始进行了多项更新,但意外中修改了引导加载程序配置,导致计算机无法启动。 此事件让Buck颇为无奈,但他选择乐观地让AI继续操作,结果却是彻底崩溃。