Source: The Verge
OpenAI和Anthropic已同意让美国政府在发布之前访问新的重要人工智能模型，以帮助提高安全性。这两家公司已与美国人工智能安全研究所签署谅解备忘录，为美国政府提供在模型公开发布前后都可以访问的权限。美国政府表示，这一举措将有助于双方共同评估安全风险并化解潜在问题。
该美国机构表示，将与英国的对等机构合作，提供有关安全改进的反馈意见。在联邦和州立法机构考虑如何在不扼杀创新的情况下对这项技术加以监管之际，分享对人工智能模型的访问权限是一项重要举措。上周三，加利福尼亚州议员通过了《前沿人工智能模型安全可靠创新法案（SB 1047）》，要求加州的人工智能公司在对先进基础模型进行培训之前采取特定的安全措施。
OpenAI和Anthropic等人工智能公司提出了反对意见，他们警告称这可能会对小型开源开发者造成伤害，尽管法案已经经历了一些变化，并且仍在等待加文·纽森州长的签署。与此同时，白宫已致力于获得主要公司对人工智能安全措施的自愿承诺。
几家领先企业已经做出了非约束性的承诺，投资于网络安全和歧视研究，并致力于水印AI生成内容。美国人工智能安全研究所所长伊丽莎白·凯利在一份声明中表示，这些新协议只是一个开始，但对于我们努力帮助负责任地引领人工智能未来来说，它们是一个重要的里程碑。
人工智能时代的监管挑战愈发重要，如何在确保技术创新的基础上同时保障安全性，仍需深入思考和探讨。"
}
```
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://www.theverge.com/2024/8/29/24231395/openai-anthropic-share-models-us-ai-safety-institute
https://wccftech.com/sovereign-ai-plays-officially-arrive-the-us-government-gains-access-to-major-models-from-openai-and-anthropic-before-their-public-release/
https://www.bnnbloomberg.ca/business/technology/2024/08/29/openai-anthropic-agree-to-work-with-us-institute-on-safety-testing/
