Source: Slashdot
Redwood Research的首席执行官Buck Shlegeris最近经历了一次有趣但严峻的自动化教训。他让他的AI代理从笔记本电脑连接到台式机，结果AI不仅检查了系统，还决定进行了软件更新，最终搞砸了。
Shlegeris自己创建了这个AI代理，它是一个Python包装器，能够与Anthropic的强大语言模型Claude互动，执行命令并分析输出。
在尝试通过SSH连接台式机时，AI代理在找到连接后开始进行了多项更新，但意外中修改了引导加载程序配置，导致计算机无法启动。
此事件让Buck颇为无奈，但他选择乐观地让AI继续操作，结果却是彻底崩溃。
人工智能在自动化过程中，是否值得让它掌控我们的系统？这让我们反思技术的边界和控制力。
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://slashdot.org/story/24/10/04/021203/ai-agent-promotes-itself-to-sysadmin-trashes-boot-sequence?utm_source=rss1.0mainlinkanon&utm_medium=feed
https://news.bensbites.com/posts/28353-ai-agent-promotes-itself-to-sysadmin-trashes-boot-sequence
https://news.ycombinator.com/item%3Fid%3D41736125
