Source: CNBC
OpenAI前安全研究领导Jan Leike本月早些时候从这家人工智能公司辞职后，周二表示已加入竞争对手AI初创公司Anthropic。Leike 15日早些时候宣布辞去OpenAI职务，几天后该公司解散了他共同领导的超对齐小组。这个团队成立于2023年，专注于长期人工智能风险。OpenAI联合创始人Ilya Sutskever 14日在X上发文宣布离职。
Leike在X上写道，“我很高兴加入@AnthropicAI继续超对齐使命，我的新团队将致力于可扩展监督、弱到强泛化和自动对齐研究。Anthropic得到亚马逊支持，亚马逊已承诺向该公司投资高达40亿刀用于持有少数股份。Leike在离开OpenAI后发文称“离开这份工作是我做过的最艰难的事情之一，因为我们迫切需要找出如何引导和控制比我们聪明得多的AI系统。自OpenAI 2022年底推出ChatGPT以来，AI安全在科技行业迅速引起重视，助推生成式AI产品和投资繁荣。
一些业内人士担忧公司在向公众发布功能强大的AI产品时行动过快，没有充分考虑社会潜在危害。微软支持的OpenAI周二表示，已组建了由高管领导的新安全和保安委员会，包括CEO Sam Altman。该委员会将向公司董事会推荐OpenAI项目和运营的“安全和保安决策。
由Dario Amodei和Daniela Amodei兄妹和其他前OpenAI高管于2021年创立的Anthropic于3月推出了其ChatGPT竞争产品Claude 3。除了亚马逊外，该公司还获得了来自谷歌、Salesforce和Zoom的资金支持。观看：Anthropic联合创始人讨论AI应用。
AI技术的快速发展给技术行业带来了挑战，如何在推动人工智能领域发展的同时保障社会稳定，是当前需要共同思考的重要课题。"
}
```
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://www.cnbc.com/2024/05/28/openai-safety-leader-jan-leike-joins-amazon-backed-anthropic.html
https://www.washingtonpost.com/business/2024/05/28/openai-altman-safety-new-model/b81d336c-1ce6-11ef-becb-2cf8dbfd9eb9_story.html
https://www.theinformation.com/briefings/former-openai-safety-leader-joins-rival-anthropic
