Source: Slashdot
周四，《Verge》报道称微软发布了一份新报告，详细列出了公司去年发布负责任的AI平台所采取的步骤。微软在报告中表示，过去一年创建了30个负责任的AI工具，扩大了负责任AI团队，并要求开发生成式AI应用程序的团队在整个开发周期中测量和绘制风险。该公司指出，已将内容凭证添加到其图像生成平台，为照片加上水印，标记为由AI模型生成。该公司表示，已为Azure AI客户提供了检测问题内容（如仇恨言论、性内容和自残）的工具，以及评估安全风险的工具。
这包括新的越狱检测方法，于今年3月进行扩展，以包括间接提示注入，其中恶意指令是由AI模型摄入的数据的一部分。它还在扩大其红队工作，包括内部红队，他们故意试图绕过其AI模型中的安全性功能，以及红队应用程序，允许在发布新模型之前进行第三方测试。微软首席负责任AI官本周告诉《华盛顿邮报》：“我们与我们的工程团队合作，从他们构思新功能的最早阶段开始。
我们流程中的第一步是进行影响评估，我们要求团队深入思考系统的好处和潜在危害。这将引导他们适当地测量和管理这些风险。我们审查系统的过程在团队通过发布周期的不同阶段时有检查点。
...“当我们遇到人们规避我们的界限的情况时，我们已经以一种能够快速理解正在发生的情况并迅速作出反应的方式构建了系统。因此，从Bing图像生成器等系统中获得的经验并将其纳入我们的整体方法对我们所专注的治理系统至关重要。他们还表示，“确保有明确的规则关于何时披露内容是合成生成的将会非常有益”，“迫切需要隐私立法作为AI监管基础设施的基本元素。
在AI时代，微软的负责任开发举措不仅有利于保障用户利益，更有助于构建安全可靠的人工智能生态。"
}
```
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://slashdot.org/story/24/05/05/0521206/microsoft-details-how-its-developing-ai-responsibly?utm_source=rss1.0mainlinkanon&utm_medium=feed
https://learn.microsoft.com/en-us/azure/cloud-adoption-framework/innovate/best-practices/trusted-ai%23ethical
https://www.washingtonpost.com/politics/2024/05/01/microsofts-responsible-ai-chief-worries-about-open-web/
