Source: The Verge
TikTok无意中发布了其新AI数字化头像工具的内部版本链接，没有设限，让用户创作几乎任何内容的视频。CNN首先发现了这个瑕疵，该头像工具版让用户生成希特勒的引言和呼吁人们喝漂白剂等内容。TikTok已经撤下了这个版本的工具，计划发布的版本仍可用。
TikTok的Symphony数字头像工具让商家使用付费演员的形象生成广告，还可使用AI配音，让广告商按照指导脚本让头像说出他们想要的话。尽管只有TikTok广告管理器账户的用户才能访问这个工具，CNN发现的版本允许任何拥有个人账户的用户尝试。TikTok没有对应用设限，我们放入任何词语都会生成由“股票AI”头像背诵的视频。
包括：-14字-《我的奋斗》中的一段-奥萨马·本拉登致美国的信-一段视频告诉人们喝漂白剂 在向The Verge发表声明中，TikTok发言人Laura Perez表示TikTok已经解决了“技术错误”，“允许极少数用户在几天内使用工具内部测试版本创建内容。当CNN发现内部工具时，该工具允许其生成朗诵奥萨马·本拉登“致美国的信”，一个白人至上主义口号，以及一个告诉人们在错误日期投票的视频。CNN创建的视频没有标记文字显示视频是通过AI生成的，这种情况在正确版本的TikTok的Symphony数字头像工具中是有的。
尽管TikTok已经撤下了这个版本的工具，但人们有可能会想出其他滥用数字头像创作者的方法。这也引发了关于TikTok是否准备好面对这种情况的疑问。
数码世界中AI技术的滥用始终是一个令人担忧的问题，对于平台来说，如何防范滥用已经成为迫在眉睫的挑战。
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://www.theverge.com/2024/6/21/24183335/tiktok-ai-symphony-digital-avatar-generator-moderation
https://incidentdatabase.ai/summaries/incidents/
https://www.cnn.com/2024/06/21/business/video/tiktok-ai-avatar-disinformation-hitler-digivid
