• 微头条

    让本地生活更美好

打开APP
蓝莓酱
OpenAI成立独立安全委员会以监督模型发布(音频)

OpenAI将其安全和安全委员会转变为一个独立的“委员会监督委员会”,该委员会有权因安全问题延迟模型发布。委员会建议成立独立董事会,源于最近对OpenAI“安全和安全相关流程与保障措施”的90天审查。该委员会由Zico Kolter主席,成员包括Adam D’Angelo、Paul Nakasone和Nicole Seligman。 OpenAI表示,委员会将“获得公司领导层关于重大模型发布的安全评估简报,并将与全体董事会一起对模型发布进行监督,包括有权在安全问题得到解决之前延迟发布。OpenAI的董事会也将定期获得关于“安全和安全事务”的简报。 然而,OpenAI安全委员会的成员也是公司董事会的成员,因此该委员会真正的独立性以及独立性结构尚不明确。通过建立一个独立的安全委员会,OpenAI似乎采取了与Meta的监督委员会相似的方法,后者对Meta的一些内容政策决策进行审查,并可以做出Meta必须遵循的裁决。 OpenAI安全和安全委员会的审查还提出了“行业合作和信息共享的额外机会,以促进AI领域的安全性。公司还表示将寻找“更多分享和解释我们安全工作的方法”,以及“独立测试我们系统的更多机会。

打开APP收听

更多推荐