Source: Slashdot
据新大陆报道,一支研究团队成功利用GPT-4来利用87%新发现的尚未发布修复方案的安全漏洞。本周,同一团队通过使用一种名为具有任务特定代理的分层规划(HPTSA)方法的自主、自我传播的大型语言模型代理团队取得了更好的结果:HPTSA不是将单个LLM代理分配给解决许多复杂任务,而是使用一个“规划代理”监督整个过程并启动多个特定任务的“子代理”...与15个真实网络漏洞进行基准测试时,HPTSA显示比单个LLM利用漏洞效率高出550%,并且能够入侵其中8个零日漏洞。而独立的LLM努力只能破解15个漏洞中的3个。
研究人员认为:“我们的发现表明,无论是攻击还是防御方面的网络安全都将增加速度。现在,黑帽子可以使用AI代理来黑掉网站。
另一方面,渗透测试人员可以使用AI代理来帮助进行更频繁的渗透测试。目前尚不清楚AI代理将更多地促进网络安全的进攻还是防御,希望未来的研究能解决这个问题。
除了我们工作的直接影响,我们希望我们的工作能激发前沿LLM提供商认真考虑他们的部署。感谢长期的Slashdot读者schwit1分享这篇文章。
网络安全日趋重要,AI技术的崛起使黑帽子和渗透测试人员都具备更大的攻击和防御能力,亟需更多研究来解决这一双刃剑的难题。
特别声明:本文及配图均为用户上传或者转载,本文仅代表作者个人观点和立场,不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实,
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺,请读者仅作参考,
并请自行核实相关内容。如发现稿件侵权,或作者不愿在本平台发布文章,请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源:https://it.slashdot.org/story/24/06/10/0144203/teams-of-coordinated-gpt-4-bots-can-exploit-zero-day-vulnerabilities-researchers-warn?utm_source=rss1.0mainlinkanon&utm_medium=feed
https://arxiv.org/html/2403.08701v2
https://elblog.pl/2024/06/09/ai-powered-bots-advance-cybersecurity-research-with-novel-exploits/