Source: The Verge
OpenAI推出了一款新工具，用于检测图像是否是使用其DALL-E AI图像生成器制作的，以及新的水印方法，以更清晰地标记其生成的内容。OpenAI在一篇博客中宣布，已开始开发新的溯源方法来跟踪内容，并证明其是否为人工智能生成。这些方法包括一种新的图像检测分类器，使用人工智能来确定照片是否为人工智能生成，以及一种防篡改的水印，可以对内容进行标记，如音频附加不可见信号。分类器预测图片是否由DALL-E 3创建的可能性。
OpenAI声称，即使图片被裁剪、压缩或饱和度被更改，分类器也能正常工作。虽然该工具可以在大约98%的准确率下检测出是否是使用DALL-E 3创建的图片，但对于其他AI模型生成的内容识别能力不如，仅标记5至10%的其他图像生成器（如Midjourney）生成的图片。OpenAI之前已将内容凭证添加到了由内容溯源和权威联盟组织（C2PA）提供的图像元数据中。内容凭证本质上是包含有关谁拥有图像以及如何创建的信息的水印。
OpenAI，与Microsoft和Adobe等公司一样，是C2PA的成员。本月，OpenAI还加入了C2PA的指导委员会。这家人工智能公司还开始为其处于有限预览阶段的文本转语音平台Voice Engine的片段添加水印。图像分类器和音频水印信号仍在不断完善中。
OpenAI表示，需要从用户那里获得反馈来测试其有效性。研究人员和非营利新闻组织可以通过OpenAI的研究访问平台来测试图像检测分类器。OpenAI多年来一直在努力检测人工智能生成的内容。然而，在2023年，该公司不得不结束了一个试图识别AI写作文本的项目，因为AI文本分类器一直准确率很低。
将AI技术应用于图像检测，如何平衡便利性与隐私保护是一个值得思考的问题。
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://www.theverge.com/2024/5/7/24151482/openai-image-detection-ai-watermarking-audio
https://www.montanarightnow.com/national_news/openai-unveils-tool-to-detect-dall-e-images/article_602f3f2a-a7af-59fa-a215-8d948d075712.html
https://uk.finance.yahoo.com/news/openai-unveils-tool-detect-dall-192415176.html
