Source: The Verge
斯坦福大学网络观察站的最新报告指出，国家失踪与被性侵儿童中心的网络举报热线需要改进技术以应对人工智能生成的虐童色情材料。报告称，作为互联网上对抗虐童色情的第一道防线，网络举报热线已经难以处理其接收到的大量举报电话。据该中心称，2023年举报热线收到3620万份虐童色情举报，比2022年增加了12％。人工智能生成的虐童色情材料的增加只会使情况更糟。
举报热线通过手动举报API从Facebook和Google等在线平台接收举报，但这一API并不确保填写所有重要字段。斯坦福还指出，技术公司的内容审核人员流动迅速，因此通常在报告上没有一致性。这家非营利中心，大部分预算来自国会，通常提供的薪水比行业内其他信任与安全团队低，因此很难留住员工。它还在整合外部数据源、使用不同平台阅读公司报告，并且无法跟上最新的技术创新方面遇到了困难。
例如，由于法律限制将举报数据仅保存在服务器上90天，这明显不足以采取任何法律行动，因此它无法在云服务上存储图像和其他敏感数据。斯坦福建议在线平台改进其虐童色情举报API，以确保包含所有必要信息，从而使举报热线工作人员能够正确跟进案件。它还建议中心向国会寻求更高的预算，以便优先聘请技术专家并改进其技术堆栈。《纽约时报》报道称，网络上和学校中出现了越来越多深度伪造的人工智能生成的裸照，使已经过载的系统雪上加霜。
类似泰勒·斯威夫特等名人的虚假人工智能裸照今年早些时候在X上流传。美国50个州的总检察长呼吁国会设立一个委员会来打击人工智能生成的虐童色情。去年12月，发现一些公司用于训练其人工智能模型的数据集中包括虐童色情图片。
在数字时代，如何平衡技术创新与道德伦理，是我们需要共同思考的议题。"
}
```
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://www.theverge.com/2024/4/22/24137204/stanford-report-national-center-for-missing-and-exploited-children-ai-images
https://abcnews.go.com/US/wireStory/report-urges-fixes-online-child-exploitation-cybertipline-ai-109491403
https://www.nytimes.com/2024/04/22/technology/ai-csam-cybertipline.html
