Source: CBC
一家联邦咨询机构呼吁加拿大安全机构发布其当前和拟议人工智能系统及软件应用的详细描述。该国家安全透明咨询小组呼吁政府审视议会正在考虑修改的立法，以确保对联邦机构使用人工智能的监督。该小组在2019年创建，旨在增加国家安全政策、计划和活动的问责和公众意识。该报告预见到人工智能的应用会在国家安全领域扩大，报告称，“关于国家边境、警察和间谍服务的目标和承诺，公众了解更多是必要的。报告还指出，“必须设计和实施适当的机制，以加强政府内部的系统性和主动性公开，同时更好地促进外部监督和审查。涉及向私营部门合作的国家安全目标时，“公开和参与”是创新和公众信任的关键推动因素，而“秘密导致怀疑”，报告称。解释人工智能内部运作给公众带来的关键挑战是“算法和机器学习模型的不透明性”——这种所谓的“黑盒子”甚至可能导致国家安全机构失去对自己人工智能应用的理解，报告指出。渥太华已就联邦使用人工智能发布了指导，包括要求在创建辅助或取代人类决策者判断的系统之前进行算法影响评估。
它还推出了当前正在议会审查中的人工智能和数据法案，以确保人工智能系统的负责任设计、开发和推出。然而，该法案和新任命的人工智能专员都不会对安全机构等政府机构具有管辖权。国家通信安全局，加拿大的网络间谍机构一直致力于使用数据科学分析大量信息。国家安全局表示，利用人工智能的力量并不意味着将人类排除在过程之外，而是让他们做出更好的决策。国家安全局在最新年度报告中描述了使用高性能超级计算机训练新人工智能和机器学习模型，包括定制的翻译工具。这种工具能够翻译100多种语言的内容，并于2022年末推出，次年提供给加拿大主要的外国情报合作伙伴。国家安全局的网络中心使用机器学习工具检测针对政府的网络和系统的网络钓鱼活动和可疑活动。对于咨询小组的报告，国家安全局指出了各种努力，以促进公众对人工智能的理解。
然而，他们指出，由于“在其保护国家安全的授权方面面临独特的限制”，这可能会导致发布当前和计划中的人工智能使用细节出现困难。加拿大安全情报局欢迎透明小组的报告。情报服务表示，正在开展工作，以确立关于人工智能使用的计划和治理，透明度贯穿其所有考虑。它补充说，“鉴于加拿大安全情报局的任务”，“一些重要限制会阻止公开讨论，以保护运营的完整性，包括与人工智能使用相关的事项。在2021年，当时的联邦隐私专员丹尼尔 · 萨里安发现，皇家骑警使用先进的面部识别软件收集个人信息违反了法律。萨里安表示，在从美国公司Clearview AI收集信息之前，皇家骑警未确保符合隐私法。Clearview AI的技术允许从各种来源收集大量图像，有助于警察部队、金融机构及其他客户识别人员。作为对Clearview AI的关注，皇家骑警创建了技术接入计划来评估收集技术与隐私立法的符合性。
透明性咨询小组的报告敦促骑警向公众提供有关该计划的更多信息。报告中称，“如果在接入计划下进行的所有活动都是秘密的，透明性仍将受到影响。皇家骑警表示，他们计划很快发布一个透明蓝图，概述接入计划的技术负责使用原则以及有关该计划已评估工具的细节。他们还表示，他们还在制定有关使用人工智能的全国政策，其中包括一种确保透明的方式，以了解有关工具和保障的信息。透明咨询小组还批评政府对其透明承诺的进展或成就缺乏公开报告。它建议对承诺进行正式审查，“公开报告所采取的倡议、迄今为止的影响以及未来的活动。加拿大公共安全部表示，报告的各种建议已与部长和更广泛的国家安全社区分享，包括相关委员会。然而，该部未说明是否同意这些建议或提供实施时间表。
提升透明度是保障国家安全制度健康发展的重要一环，如何在保持安全前提下，实现技术应用的透明，值得深入思考。" } ```
