Source: Slashdot
前OpenAI“超对齐”领导之一的Jan Leike因人工智能安全问题辞职，现已加入Anthropic继续使命。根据Leike的说法，新团队将致力于可扩展监督、弱到强泛化和自动对齐研究。
一位知情人士告诉TechCrunch，Leike将直接向Anthropic的首席科学官Jared Kaplan汇报。目前致力于可扩展监督的Anthropic研究人员将随着Leike的团队成立而转向向Leike汇报工作。
Leike的团队在使命上与最近解散的OpenAI超对齐团队相似。超对齐团队的雄心勃勃目标是在未来四年内解决控制超智能AI的核心技术挑战，但经常受到OpenAI领导层的阻碍。
Anthropic经常试图将自身定位为比OpenAI更注重安全性。
在人工智能领域，安全性至关重要。新团队的成立和引人关注的人员变动可能会对未来的AI技术发展产生重大影响
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://slashdot.org/story/24/05/28/2138230/anthropic-hires-former-openai-safety-lead-to-head-up-new-team?utm_source=rss1.0mainlinkanon&utm_medium=feed
https://news.bensbites.com/posts/22344-anthropic-hires-former-openai-safety-lead-to-head-up-new-team
https://news.ycombinator.com/item%3Fid%3D40504090
