Source: The Verge
前OpenAI关键研究员Jan Leike因“安全顾虑”辞职，现已加入竞争对手Anthropic从事“可扩展监督、弱到强泛化和自动对齐研究。Anthropic被定位为OpenAI的对立面：一家致力于谨慎进展的公益公司，由前OpenAI员工创立，因为他们认为OpenAI在微软10亿刀交易后偏离了发展更安全、更有伦理AI的使命，过于关注商业利益而离开。关注AI事件的人对Leike加入Anthropic并不感到意外。
我们早该认真面对通用人工智能的影响。我们必须尽最大努力为其做好准备，”Leike在几周前关于辞职的跟进帖子中表示。只有这样，我们才能确保通用人工智能造福全人类。
Leike之前在OpenAI的“超对齐”团队工作，似乎与他在Anthropic的角色相符，确保智能系统设计符合人类价值。Leike在宣布辞职后的帖子中批评OpenAI未提供足够的计算资源以确保成功。
Anthropic采用“宪法AI”，通过收集公众意见、整合来自联合国《人权宣言》等来源的概念，将道德原则纳入AI模型的训练，OpenAI的另一位知名联合创始人Ilya Sutskever也早些时候离开了，并且据报道自去年11月领导一次未遂政变后一直不在办公室。尽管Sutskever辞职并尚未明确下一步动向，但他的价值观与Anthropic一致，这使得Anthropic成为他和Leike的可行目的地。
面对人工智能的快速发展，安全和伦理问题愈发凸显，急需全球共同关注和努力。
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://www.theverge.com/2024/5/28/24166370/jan-leike-openai-anthropic-ai-safety-research
https://www.bloomberg.com/news/articles/2024-05-28/ex-openai-safety-leader-leike-to-join-rival-anthropic%3Fsrnd%3Dhomepage-europe
https://www.reddit.com/r/OpenAI/comments/1c1rjh0/openai_researchers_including_ally_of_sutskever/
