Source: CNBC
德国慕尼黑 — 谷歌高管 Sundar Pichai 表示，人工智能的快速发展可以加强网络空间安全威胁的防御。Pichai 表示，人们对人工智能潜在的恶意用途越来越担忧，但智能工具可以帮助政府和企业加快发现和应对敌对行为带来的威胁。Pichai 在上周末的慕尼黑安全会议上告诉代表们：“我们担心网络安全的影响是正确的。但我认为人工智能实际上出乎意料地加强了我们在网络安全上的防御。随着恶意行为者越来越多地利用网络安全攻击来施加权力和勒索钱财，网络安全攻击在数量和复杂性上都在增长。根据网络安全研究公司Cybersecurity Ventures的估计，网络攻击在2023年给全球经济造成了大约8万亿美元的损失，这一数字预计到2025年将上升至10.5万亿美元。英国国家网络安全中心今年一月发布的一份报告称，人工智能只会加剧这些威胁，降低网络黑客的准入门槛，并促使更多的恶意网络活动，包括勒索软件攻击。然而，Pichai 表示，人工智能还降低了防御者检测和应对攻击所需的时间。
他表示，这将减少所谓的防御者困境，即网络黑客只需成功一次就能入侵一个系统，而防御者则必须每次都成功才能保护系统。人工智能不成比例地帮助那些防御的人，因为你得到了一个可以在规模上对其产生影响的工具，而不是那些试图利用的人。他说：“因此，在某种程度上，我们正在赢得这场比赛。谷歌上周宣布了一项新计划，提供旨在增强在线安全的人工智能工具和基础设施投资。该公司在一份声明中称，一种名为 Magika 的免费开源工具旨在帮助用户检测恶意软件，同时一份白皮书提出了关于人工智能的措施和研究，并为其创造了一道防护墙。Pichai 表示，这些工具已经被应用在该公司的产品中，如 Google Chrome 和 Gmail，以及其内部系统中。人工智能正处于一个关键的十字路口 — 在这个十字路口上，政策制定者、安全专家和公民社会有机会最终将网络安全的天平从攻击者倾向于网络防御者这边。
该发布与主要公司在慕尼黑签署协议的时间重合，这些公司承诺采取“合理预防措施”，以防止人工智能工具在2024年的大选和以后的大选中被用于破坏民主投票。Adobe、亚马逊、谷歌、IBM、Meta、微软、OpenAI、TikTok 和前称为Twitter的X 都是这一新协议的签署方，这一协议包括公司如何应对旨在欺骗选民的人工智能生成的“Deepfake”的框架。随着互联网对个人和国家支持的恶意行为者变得越来越重要，美国前国务卿希拉里·克林顿在上周六将网络空间描述为“一个新的战场。技术军备竞赛刚刚又进入一个新阶段，采用生成式人工智能技术。她在慕尼黑说。微软上周发布的一份报告发现，来自俄罗斯、中国和伊朗的国家支持的黑客一直在利用其OpenAI大型语言模型 (LLM) 来增强他们欺骗目标的努力。俄罗斯军事情报、伊朗革命卫队以及中国和朝鲜政府都被说要依赖这些工具。
IT服务和咨询公司DXC安全总裁马克·休斯告诉CNBC，恶意行为者越来越多地依赖一种名为 WormGPT 的 ChatGPT 启发的黑客工具来执行诸如逆向工程代码等任务。然而，他表示从类似的工具中获得了“显著收益”，这些工具可以帮助工程师快速检测和逆向工程攻击。它使我们有能力加速。休斯上周表示：“在网络安全领域的大部分时间里，你与对手相比是处于劣势的。在任何冲突情况中经常会出现这种情况。如果你能比你的对手快一点，你将做得更好。这就是人工智能目前在防御上真正给我们的帮助。
人工智能在网络安全防御中发挥着越来越重要的作用，我们是在创造一个更安全的网络空间，还是迈向了另一个潜在的技术竞赛漩涡？" } ```
