Source: Slashdot
麻省理工学院的物理学教授和AI研究员Max Tegmark表示,世界正在“目睹一场必须停止的底线竞赛。Tegmark组织了一封公开信,于四月份发表,该信由包括埃隆·马斯克和苹果的联合创始人史蒂夫·沃兹尼亚克在内的成千上万位科技行业人士签署,呼吁暂停巨型AI实验六个月。Tegmark在接受《卫报》采访时表示:“我们迫切需要AI安全标准,以便这将转变为一个向上的竞赛。AI承诺带来许多令人难以置信的好处,但是不受监督的无序发展越来越强大的系统,将我们的经济,我们的社会和我们的生活置于风险之中。规制对于安全创新至关重要,以免少数几家AI公司危害我们的共同未来。本周发表的一份政策文件中,包括两位现代AI“教父”在内的23位AI专家表示,政府必须被允许停止开发特别强大的模型。多伦多大学施瓦兹赖斯曼技术与社会研究所的共同作者吉莲·哈德菲尔德表示,未来18个月内将建立比现有模型更加强大的AI模型。
有些公司计划在18个月内使用比今天的最新技术水平大100倍的计算来训练模型,”她说。没有人知道它们有多么强大。而且对于它们能够做什么,本质上没有任何规制。该文件的作者包括Geoffrey Hinton和Yoshua Bengio,他们都是ACM图灵奖(计算机的“诺贝尔奖”)的得主,文章主张,政府必须为强大的模型发放许可证,并在必要时停止其发展。对于特别优秀的未来模型(例如,可以规避人类控制的模型),政府必须准备好发放开发许可证,回应令人担忧的能力而暂停开发,强制执行访问控制和信息安全措施。。
AI的发展虽带来无限好处,但无监督的无序发展却也使生活经济社会面临风险。AI安全标准和严格的监管势在必行,以保护我们的共同未来。