Source: The Verge
微软推出了一项名为“修正”的新功能，以应对AI不准确性问题。使用Microsoft Azure的客户可以通过此功能自动检测和重写AI输出中的错误内容。
此修正功能目前在Azure AI Studio的预览版中提供，旨在检测漏洞、发现虚假信息并阻止恶意提示。启用后，修正系统将扫描AI输出与客户源材料进行比较，识别错误、提供错误原因信息并重写有问题的内容，所有这一切都在用户看到准确性问题之前。
尽管这一功能看似有助于解决AI模型常常出现的不准确性，但它可能并不是一个完全可靠的解决方案。谷歌的Vertex AI云平台也有类似的功能，通过检查输出与谷歌搜索、公司自有数据和即将引入的第三方数据集进行对比，以“校正”AI模型。
微软的一位发言人表示，“修正”系统使用小型语言模型和大型语言模型来使输出与基础文档对齐，意味着它也会犯错误。微软指出，基础检测并不解决“准确性”问题，而是帮助使生成的AI输出与基础文档对齐。
在这个AI不断发展的时代，我们是否应该在技术和准确性之间找到更好的平衡呢？
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://www.theverge.com/2024/9/24/24253452/microsoft-correction-ai-safety-tool-fix-errors
https://www.cnbc.com/2023/03/16/microsoft-justifies-ais-usefully-wrong-answers.html
https://azure.microsoft.com/en-us/blog/announcing-new-tools-in-azure-ai-to-help-you-build-more-secure-and-trustworthy-generative-ai-applications/
