Source: Slashdot
麻省理工学院的物理学教授和AI研究员Max Tegmark表示，世界正在“目睹一场必须停止的底线竞赛。Tegmark组织了一封公开信，于四月份发表，该信由包括埃隆·马斯克和苹果的联合创始人史蒂夫·沃兹尼亚克在内的成千上万位科技行业人士签署，呼吁暂停巨型AI实验六个月。Tegmark在接受《卫报》采访时表示：“我们迫切需要AI安全标准，以便这将转变为一个向上的竞赛。AI承诺带来许多令人难以置信的好处，但是不受监督的无序发展越来越强大的系统，将我们的经济，我们的社会和我们的生活置于风险之中。规制对于安全创新至关重要，以免少数几家AI公司危害我们的共同未来。本周发表的一份政策文件中，包括两位现代AI“教父”在内的23位AI专家表示，政府必须被允许停止开发特别强大的模型。多伦多大学施瓦兹赖斯曼技术与社会研究所的共同作者吉莲·哈德菲尔德表示，未来18个月内将建立比现有模型更加强大的AI模型。
有些公司计划在18个月内使用比今天的最新技术水平大100倍的计算来训练模型，”她说。没有人知道它们有多么强大。而且对于它们能够做什么，本质上没有任何规制。该文件的作者包括Geoffrey Hinton和Yoshua Bengio，他们都是ACM图灵奖（计算机的“诺贝尔奖”）的得主，文章主张，政府必须为强大的模型发放许可证，并在必要时停止其发展。对于特别优秀的未来模型（例如，可以规避人类控制的模型），政府必须准备好发放开发许可证，回应令人担忧的能力而暂停开发，强制执行访问控制和信息安全措施。。
AI的发展虽带来无限好处，但无监督的无序发展却也使生活经济社会面临风险。AI安全标准和严格的监管势在必行，以保护我们的共同未来。
