Source: bbc.com
加州州长加文·纽森否决了一项重要的人工智能（AI）安全法案，该法案遭到主要科技公司强烈反对。该立法将是美国对AI实施的首次监管。纽森表示，该法案可能抑制创新并促使AI开发者迁出加州。法案作者斯科特·维纳表示，否决意味着公司可以在没有政府监督的情况下继续开发“极其强大的技术。该法案要求先进的AI模型进行安全测试，并强制开发者确保技术包含所谓的“杀手开关”，以便在AI系统成为威胁时可以隔离并有效关闭。
法案还要求对所谓的“前沿模型”进行官方监督。纽森在声明中表示，法案未考虑AI系统部署在高风险环境中的情况，也未考虑其涉及关键决策或敏感数据的情况，并指出法案对最基本功能也施加了严格标准。同时，纽森宣布将采取措施保护公众免受AI风险，并邀请领先专家帮助制定技术保障措施。在过去几周，纽森还签署了17项法案，其中包括打击虚假信息和“深度伪造”的立法。
加州是许多世界最大和最先进的AI公司的家园，包括ChatGPT的制造商OpenAI。这个州作为全球许多大型科技公司的中心，任何对这一领域的立法都将对行业产生重大影响。维纳表示，否决决定使AI公司在美国政策制定者面前“没有约束力的限制。国会对AI实施保障的努力已经停滞。
OpenAI、谷歌和Meta是几家发声反对该法案的主要科技公司，警告此举将阻碍关键技术的发展。Counterpoint Research的高级分析师韦·孙表示：“作为一项通用技术，AI仍处于早期阶段，因此限制技术本身是为时已晚的。相反，更有利的做法是针对可能在未来造成危害的特定应用场景进行监管。。
在科技飞速发展的今天，我们是否应该让创新与安全之间找到一个更好的平衡点？
