Source: BBC
埃隆·马斯克警告称,如果人们在“环保运动”中对人工智能(AI)进行编程,可能会导致人类的灭绝。他在周二出现在喜剧演员乔·罗根的播客中时表示,一些人将使用技术通过结束人类生命来保护地球。此前,他在英国AI安全峰会上发表讲话,现在正进行中,他还将与英国首相会面。许多专家认为这种警告夸大其词。前英国副首相、世界社交媒体巨头Meta全球事务总裁尼克·克莱格(Nick Clegg)在同样参加峰会的同时表示,过度关注AI在未来可能的样子,忽视了当下的问题是有危险的。他表示,人们不应该让“推测性的、有时有些未来主义的预测”排挤掉更紧迫的挑战。马斯克表示,他的言论源于对环保运动“走得太远”的担忧。如果你开始认为人类是坏的,那么自然的结论就是人类应该灭绝,”他说。如果AI被灭绝论者编程,它的效用函数将是人类的灭绝...他们甚至不会觉得这是坏事。
马斯克将在周四稍后通过他的平台X与英国首相里希·苏纳克(Rishi Sunak)进行讨论。尽管很少有人与马斯克对AI威胁所采取的解释一致,但许多人都认为它具有潜在的危险。谷歌深度学习的联合创始人、英国最大的人工智能公司之一Deepmind的Demis Hassabis在峰会前表示,应避免与硅谷相关的“快速行动、打破规则”的口号。Hassabis先生说:“它在建立大型企业、为我们提供大量优质服务和应用方面非常成功。但AI太重要了。我们需要做大量工作来确保我们理解AI系统,并知道如何以安全和负责任的方式部署它们。他指出了潜在风险,包括AI生成错误信息和Deepfake以及该技术被坏份子恶意滥用。在接下来的两天里,大约100位世界领导人、科技大佬、学者和AI研究人员将聚集在英国的布莱切利公园校区,这里曾经是...。
人工智能的潜在危险引发了广泛讨论,这需要更多的安全措施以确保其安全和负责任的应用。