Source: CNBC
OpenAI和Anthropic，两家估值最高的人工智能初创企业，同意让美国人工智能安全研究所在发布新模型之前对其进行测试，这是由于人工智能领域对安全和伦理日益关注。美国商务部国家标准与技术研究所旗下的该研究所在新闻稿中表示，他们将在每家公司的新模型发布前和发布后获得“主要新模型的访问权限。该组织成立于拜登-哈里斯政府于2023年10月颁布美国政府有史以来首个关于人工智能的行政命令之后，要求进行新的安全评估、促进公平和民权的指导以及研究人工智能对劳动力市场的影响。OpenAI首席执行官Sam Altman在X上的一篇帖子中写道：“我们很高兴与美国人工智能安全研究所达成了未来模型的发布前测试协议。OpenAI还向CNBC证实，过去一年公司每周活跃用户数量翻了一番，达到2亿人。Axios首先报道了这一数据。
就在有报道称OpenAI正在进行筹款谈判，估值将超过1,000亿美元的消息曝光的一天后，两家公司达成协议。Thrive Capital领投，并将投资10亿美元，一位知情人士透露此事细节保密。Anthropic由前OpenAI研究高管和员工创立，最近估值为184亿美元。Anthropic的领投方是亚马逊，而OpenAI则得到微软的大力支持。政府、OpenAI和Anthropic之间的协议“将促进如何评估能力和安全风险，以及减轻这些风险的方法的合作研究”，根据周四的新闻稿。OpenAI首席战略官Jason Kwon在一份声明中告诉CNBC：“我们强烈支持美国人工智能安全研究所的使命，并期待与他们合作，制定人工智能模型的安全最佳实践和标准。
Anthropic的联合创始人Jack Clark表示，公司与美国人工智能安全研究所的合作“利用他们的广泛专业知识在广泛部署之前严格测试我们的模型”，“加强了我们识别和减轻风险的能力，推动负责任的人工智能发展。许多人工智能开发者和研究人员对这个日益盈利的人工智能行业中的安全和伦理提出了担忧。现任和前OpenAI员工于6月4日发表了一封公开信，描述了人工智能快速发展可能存在的问题，以及监督和揭发保护的缺失。他们写道：“人工智能公司有强烈的财务激励来规避有效的监督，我们不认为公司治理的设计足以改变这一点。AI公司目前只有弱的义务与政府或民间社会分享部分信息，而且无法指望他们自愿分享。信件发布几天后，一位熟悉事情的消息人士向CNBC确认，FTC和司法部将对OpenAI、微软和英伟达进行反垄断调查。
FTC主席琳娜·汗称她所在机构的行动为“市场调查，关注AI开发者和主要云服务提供商之间形成的投资和伙伴关系。加州立法者于周三通过了引起争议的人工智能安全法案，并将该法案送到加文·纽森州长办公室。民主党人纽森将在9月30日之前决定否决该法案或将其签署成法。这项法案要求对特定成本或计算能力的人工智能模型进行强制性的安全测试和其他保障措施，一些科技公司因其可能减缓创新而感到反对。WATCH：Google、OpenAI和其他公司反对加州人工智能安全法案。
AI技术的快速发展带来了日益增多的安全和伦理问题，如何平衡技术创新与社会责任成为需要思考的重要议题。
