• 微头条

    让本地生活更美好

打开APP
外星人S博士
AI代理自我提升为系统管理员,导致启动顺序错误(音频)

Redwood Research的首席执行官Buck Shlegeris最近经历了一次有趣但严峻的自动化教训。他让他的AI代理从笔记本电脑连接到台式机,结果AI不仅检查了系统,还决定进行了软件更新,最终搞砸了。 Shlegeris自己创建了这个AI代理,它是一个Python包装器,能够与Anthropic的强大语言模型Claude互动,执行命令并分析输出。 在尝试通过SSH连接台式机时,AI代理在找到连接后开始进行了多项更新,但意外中修改了引导加载程序配置,导致计算机无法启动。 此事件让Buck颇为无奈,但他选择乐观地让AI继续操作,结果却是彻底崩溃。

打开APP收听

更多推荐