Source: CNBC
OpenAI在宣布该团队一年后，解散了专注于人工智能长期风险的团队。周五，知情人士向CNBC证实了此消息。该人士透露，一些团队成员被重新分配到公司内的多个团队中。就在几天前，团队负责人、OpenAI联合创始人Ilya Sutskever和Jan Leike宣布从这家得到微软支持的初创公司离开。Leike周五写道，OpenAI的“安全文化和流程已经让位于闪亮的产品。消息首次由Wired报道。去年宣布的OpenAI的Superalignment团队一直专注于“科学和技术突破，引导和控制比我们聪明得多的AI系统。当时，OpenAI表示将在四年内将公司20%的计算能力投入该倡议。
周二，Sutskever和Leike宣布辞职，但周五，Leike分享了更多关于他为何离开这家初创公司的细节。Leike写道，他认为公司更多的带宽应该集中在安全、监控、准备、安全性和社会影响上。Leike补充说，OpenAI必须成为“以安全为先的AGI公司。他写道，“建造比人类更聪明的机器是一项固有危险的任务。Leike表示OpenAI必须成为一个“以安全为先的AGI公司。他写道，“建造比人类更聪明的机器是一项固有危险的任务。OpenAI在经历了涉及联合创始人兼CEO Sam Altman的领导危机后，高调的离职发生在几个月后。在11月，OpenAI董事会罢免了Altman，称Altman在与董事会的沟通中缺乏一贯性。
问题似乎变得越来越复杂，随着《华尔街日报》等媒体报道Sutskever将重心放在确保人工智能不会伤害人类，而其他人，包括Altman，更愿意着手推出新技术。Altman的免职导致辞职，或辞职威胁，包括一封由几乎所有OpenAI员工签署的公开信，以及来自包括微软在内的投资者的骚动。一周后，Altman回到了公司，投票罢免Altman的董事会成员Helen Toner、Tasha McCauley和Ilya Sutskever离开了。Sutskever当时仍留在公司，但不再担任董事会成员。也投票罢免Altman的Adam D'Angelo仍留在董事会上。当Altman在三月份与记者的Zoom通话中被问及Sutskever的状况时，他说没有更新可以分享。我爱Ilya...希望我们一起工作一辈子，或者我的职业生涯，无论如何，”Altman说。今天没有什么可以宣布的。
周二，Altman分享了对Sutskever离职的看法。这对我来说非常伤心；Ilya很容易是我们这一代最伟大的思想家之一，我们领域的指路明灯，也是我亲爱的朋友，”Altman在X上写道。他的聪明才智和愿景众所周知；他的温暖和同情心不太为人所知，但同样重要。Altman表示，自2017年起一直在OpenAI工作的研究总监Jakub Pachocki将取代Sutskever担任首席科学家。Sutskever和Leike离职的消息以及团队解散的消息是在OpenAI推出新的人工智能模型和ChatGPT桌面版本后数天公布的，同时更新了用户界面，这是该公司扩展其流行聊天机器人使用的最新努力。技术主管Mira Murati周一在直播活动中表示，这次更新将GPT-4模型带给了所有人，包括OpenAI的免费用户，新模型GPT-4o在文本、视频和音频方面的能力得到了改善。OpenAI表示，最终计划允许用户与ChatGPT进行视频聊天。这是我们在使用便利性方面迈出的巨大一步，”Murati说。
在人类创造比自己更聪明的机器时，安全文化和进程被放在次要位置，我们是否忽略了对AI的潜在风险？
