Source: BBC
一名女孩照片被用于AI生成的裸体图片,她的母亲表示数百名父母告诉她,他们的孩子也是受害者。Miriam Al Adib的女儿是西班牙一个村庄中被擅自裸体图片化的几个孩子之一。她说全世界的父母都声称他们的孩子也成为目标。一名威尔士的教师表示学校需要在向孩子们解释AI的危险方面发挥作用。因特网监管基金会表示,这种做法如此普遍“并不令人意外。Â AlmendralejoÂ镇在9月份成为新闻头条,因为超过20名年龄在11-17岁的女孩的AI生成的不雅图片在网上被分享,她们并不知情。Al Adib女士是一群受影响家长中的一员,她们创建了一个支持团体,她说这导致了其他许多家长与她联系并表达了自己的担忧。
她告诉威尔士直播节目:“数百人写信告诉我,‘你有多幸运能够得到支持,因为同样的事情发生在我们身上,发生在我的女儿身上,而且我没有得到任何支持。’”“如果有任何女孩受到影响,请告诉你的父母。Al Adib女士表示,受影响村庄的母亲和父亲已经组建了一个团体,以互相支持和帮助他们的孩子。她补充道:“这帮助许多女孩站出来说发生在她们身上的事情。这是很重要的,因为许多女孩不敢和父母谈论这个问题。她表示,社交网络、色情和人工智能的结合是一种“毁灭性的武器。英国于上周举办了首次人工智能安全峰会,内政大臣Suella Braverman承诺打击由AI生成的儿童性虐待物品。
英国政府表示:“无论是真实儿童还是虚构儿童的AI生成的儿童性虐待内容都是非法的。在线安全法”将要求企业采取积极措施打击所有形式的在线儿童性虐待,包括诱导、直播、未成年人色情材料和禁止图片,否则将面临巨额罚款。因特网监管基金会的首席执行官Susie Hargreaves表示,需要“紧急”解决通过AI生成的儿童性虐待材料的问题。她说,她担心未来可能会出现“海啸”般的图片。这不是即将发生的事情,而是正在发生的事情,”她说。该基金会在2023年10月的报告中发现,仅仅一个月里有超过20,000张AI生成的图像在一个分享儿童性虐待材料的论坛上被发现。
留言中包括对创作者写实图片的祝贺,还有用户表示他们通过自己在公园拍摄的儿童照片制作了图片。Bryntirion综合学校负责健康和福祉的Tamasine Preece博士表示,像社交媒体和智能手机这样的东西使她的工作“发生了翻天覆地的变化。她表示,“学校起着至关重要的作用,”与儿童一起讨论AI的危险等话题。威尔士直播节目向她展示了一个声称可以生成裸照的广告,她称之为“令人心碎。她补充道:“我们作为成年人可以安全地将这些话题提到前台,而不是这些话题成为禁忌,他们之间共享错误信息。与作恶者合作解决儿童性虐待问题的Lucy Faithful基金会表示,AI创造的儿童性虐待材料将带来“爆炸。
慎防AI技术的滥用,保护孩子的安全成为必要之举。