Source: The Verge
微软和OpenAI今天披露，黑客已经开始使用像ChatGPT这样的大型语言模型来改进他们现有的网络攻击。根据最新发布的研究显示，微软和OpenAI发现了俄罗斯、朝鲜、伊朗和中国支持的组织使用ChatGPT这样的工具研究目标，改进脚本，并帮助构建社交工程技术。微软在今天的博文中表示：“网络犯罪团伙、国家威胁行动者和其他对手正在探索和测试不同的人工智能技术，以了解其对运营价值以及可能需要规避的安全控制。与俄罗斯军方情报部门有关的Strontium组织使用LLM来了解卫星通信协议、雷达成像技术和特定的技术参数。这个黑客组织，也被称为APT28或Fancy Bear，在乌克兰战争期间活跃，并曾参与2016年针对希拉里·克林顿总统竞选活动的攻击。微软表示，该组织还使用LLM来帮助“基本脚本任务，包括文件操作、数据选择、正则表达式和多进程，以潜在地自动化或优化技术操作。
朝鲜黑客组织Thallium一直在使用LLM研究公开报道的漏洞和目标机构，以帮助完成基本脚本任务，并为网络钓鱼活动起草内容。微软表示，伊朗的黑客组织Curium还使用LLM生成网络钓鱼邮件，甚至编写用于避免被杀毒软件检测的代码。中国国家支持的黑客也在使用LLM进行研究、脚本编写、翻译和改进现有工具。对于AI在网络攻击中的使用存在担忧，特别是随着WormGPT和FraudGPT等AI工具的出现，用于帮助创建恶意邮件和破解工具。上个月，美国国家安全局的高级官员也警告说，黑客正在使用AI使他们的网络钓鱼邮件更具说服力。微软和OpenAI尚未发现有任何使用LLM的“重大攻击”，但这些公司正在关闭与这些黑客组织相关的所有帐户和资产。
微软表示：“与此同时，我们认为这是重要的研究，并通过与防御者社区共享信息，暴露我们观察到的众多知名威胁行动者尝试的早期阶段增量移动。尽管AI在网络攻击中的使用目前似乎有限，但微软警告未来可能出现语音模仿等情况。AI助力的欺诈也是一个关键问题。语音合成就是一个例子，只需一个三秒钟的语音样本就可以训练模型模仿任何人的声音，”微软表示。即使是你的语音留言问候也可以用来获得足够的样本。
当然，微软的解决方案是使用AI来应对AI攻击。AI可以帮助攻击者使他们的攻击更加复杂，他们有足够的资源投入其中，”微软的主要检测分析经理Homa Hayatyfar表示。我们在追踪300多个威胁行动者时已经看到了这一点，并且我们使用AI来保护、检测和响应。微软正在开发一款名为Security Copilot的新的AI助手，旨在帮助网络安全专业人员识别入侵并更好地理解每天由网络安全工具产生的大量信号和数据。这家软件巨头还在Azure云系统遭受重大攻击以及俄罗斯黑客监听微软高管之后进行了软件安全的全面改进。
人工智能在网络攻击中的应用令人担忧，但微软相信借助人工智能的力量来应对这些攻击也是可行的。
