Source: CNBC
伦敦 — 英国政府正在将其用于测试“前沿”人工智能模型的设施扩展到美国,以进一步巩固其在处理技术风险方面的全球领先地位,并加强与美国的合作,同时全球各国政府争夺人工智能领导地位。政府周一宣布将在今年夏天在旧金山开设一个与其人工智能安全峰会相对应的美国机构,这是一个由政府支持的机构,专注于测试先进的人工智能系统以确保安全。人工智能安全学院的美国分会将旨在招募一支由一位研究主管领导的技术人员团队。在伦敦,该机构目前有一个由英国知名科技企业家伊恩·霍加斯主持的30人团队,他创建了音乐会发现网站Songkick。
英国技术部长米歇尔·多纳伦在一份声明中表示,人工智能安全峰会的美国推出“代表了英国在人工智能领域的领导行动”,“这是英国研究人工智能风险和潜力在全球范围内的能力的关键时刻,加强我们与美国的伙伴关系,并为其他国家开拓道路,利用我们的专业知识,继续在人工智能安全领域引领世界。扩展“将使英国能够利用旧金山的丰富技术人才,与总部位于伦敦和旧金山的世界最大人工智能实验室进行合作,并与美国巩固关系,推动人工智能安全为公众利益发展”,政府表示。旧金山是微软支持的人工智能公司OpenAI的总部,该公司背后的病毒级人工智能聊天机器人ChatGPT。人工智能安全学院于2023年11月在人工智能安全峰会上成立,该全球活动在英格兰的布莱切利公园举行,该公园是二战密码破译者的家园,旨在促进跨境合作,应对人工智能安全问题。
人工智能安全学院扩展至美国恰逢韩国首尔人工智能峰会之前,该峰会首次在去年布莱切利公园的英国峰会上提出,将于周二和周三举行。政府表示,自从人工智能安全学院于去年11月成立以来,已经在评估行业领先参与者的前沿人工智能模型方面取得了进展。周一表示,几个人工智能模型已完成网络安全挑战,但难以完成更高级的挑战,而一些模型展示了对化学和生物学的博士水平知识。与此同时,据政府介绍,所有经该研究所测试的模型仍然极易被“越狱”,用户诱使其产生不符合内容指南的回应,有些甚至在没有绕过防护措施的情况下产生有害输出。
经测试的模型无法在没有人类监督的情况下完成更复杂、耗时的任务。政府没有公布经过测试的人工智能模型的名称。此举发生在英国面临批评没有引入人工智能正式规定的同时,其他司法管辖区,如欧盟,正在为人工智能量身定制的法律奔赴前方。预计,欧盟标志性的人工智能法案,即这类法规的第一部重要立法,一旦获得所有欧盟成员国的批准并生效,将成为全球人工智能规定的蓝图。
扩展跨国人工智能安全合作,赋能英国领导地位,呼应全球监管挑战,岂非智者千虑必有一失?" } ```