Source: The Verge
所有美国联邦机构现在将被要求有一名高级领导监督他们使用的所有AI系统，政府希望确保公共服务中的AI使用保持安全。副总统Kamala Harris在与记者的简报中宣布了新的OMB指导方针，并表示各机构还必须建立AI治理委员会，以协调机构内部AI的使用。机构还必须向管理与预算办公室（OMB）提交一份年度报告，列出他们使用的所有AI系统、这些系统所涉及的任何风险以及他们计划如何减轻这些风险。我们指示所有联邦机构指定一名具有经验、专业知识和权力来监督该机构使用的所有AI技术的首席AI官员，这是为了确保AI的负责任使用，理解我们必须在整个政府中有负责监督AI采用和使用的高级领导人”，Harris告诉记者。首席AI官员不一定必须是政治任命的，尽管这取决于联邦机构的结构。治理委员会必须在夏季创建。
该指导方针扩展了拜登政府AI主管令中先前公布的政策，该令要求联邦机构制定安全标准并增加在政府工作的AI人才数量。一些机构甚至在今天的公告之前就开始聘请首席AI官员。司法部在二月宣布Jonathan Mayer为其首位首席AI官员。他将领导一组网络安全专家，研究如何在执法中使用AI。据管理与预算办公室主席Shalanda Young表示，美国政府计划在夏季雇佣100名AI专业人员。机构的AI官员和治理委员会的一部分责任是经常监控他们的AI系统。
Young表示，机构必须提交机构使用的AI产品清单。如果认为任何AI系统足够“敏感”而不列入清单，该机构必须公开提供排除原因。机构还必须独立评估其使用的每个AI平台的安全风险。联邦机构还必须验证其部署的任何AI是否符合“减少算法歧视风险并向公众提供政府如何使用AI的透明度”的保障措施。OMB的事实表提供了几个例子，包括：在机场时，旅客将有能力选择退出使用TSA的面部识别而不会延误或失去他们的排队位置。当AI用于联邦医疗系统支持关键诊断决策时，将有人类监督该过程以验证工具的结果，并避免医疗服务接触的差异。
当AI用于检测政府服务中的欺诈时，将对有影响的决策进行人类监督，并受影响的个人有机会寻求解决AI造成的伤害。如果某机构无法应用这些保障措施，该机构必须停止使用AI系统，除非机构领导人说明为何这样做会增加整体安全或权利风险，或者对关键机构运营造成不可接受的阻碍，事实表中写道。根据新的指导方针，任何政府拥有的AI模型、代码和数据应当向公众开放，除非对政府运营构成风险。美国仍没有针对AI的法律。AI主管令为行政部门下属的政府机构提供了处理该技术的指导方针。虽然已经提出了几项监管AI某些方面的法案，但在立法化AI技术方面并没有太多进展。
AI 技术快速发展，监管AI的使用将成为未来的趋势，如何确保AI的安全透明，是政府和社会面临的重要课题。
