Source: The Verge
一项新提案旨在追踪安全问题，强制创建记录所有AI系统漏洞的数据库，已提交至参议院。由弗吉尼亚州民主党参议员Mark Warner和北卡罗来纳州共和党参议员Thom Tillis提出的《安全人工智能法》将在国家安全局设立人工智能安全中心。该中心将领导研究所谓的“反AI”技术，即学习如何操纵AI系统的技术，并制定防范措施。该提案还要求国家标准与技术研究所和网络安全和基础设施安全局创建一个包括“几近失误”的AI漏洞数据库。
Warner和Tillis的提案专注于对抗AI的技术，将其归类为数据污染、逃避攻击、基于隐私的攻击和滥用攻击。数据污染是指将代码插入AI模型抓取的数据中，破坏模型的输出。这种方法被广泛应用于防止AI图像生成器复制网络上的艺术品。
逃避攻击会改变AI模型研究的数据，导致模型混乱。AI安全是拜登政府AI行政命令中的重点内容，该命令要求国家标准与技术研究所建立“红队”指南，并要求AI开发者提交安全报告。红队是指开发者有意试图引导AI模型回应其不应该回应的提示。
理想情况下，功能强大的AI模型的开发者在发布前会对平台进行安全性测试，并让其经受严格的红队测试。一些公司，如微软，已经开发了工具，帮助更轻松地为AI项目添加安全保障。《安全人工智能法》将在通过委员会审议后才能被全体参议院通过。
AI技术的发展与安全同等重要，如何有效防范AI系统的漏洞成为当前亟需解决的问题。
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://www.theverge.com/2024/5/1/24146566/ai-security-bill-warner-tillis-senate-redteam-safety
https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
https://www.enterpriseai.news/2024/04/29/79232/
