Source: The Verge
上周，我无意中发现自己在AI生成的亚洲人方面的报道中。Meta的AI图像生成器在上周三完全未能根据一般提示创造出亚洲男性和白人女性的形象。第二天，我再次尝试相同的提示，发现Meta似乎阻止了具有“亚洲男性”或“非裔美国男性”等关键词的提示。不久之后，当我向Meta询问时，图片再次可用，但仍具有前一天的种族交换问题。多个AI图像生成器似乎特别难以处理亚洲男性和白人女性的组合。这可能不是当天最重要的新闻，但那些告诉公众“AI正在实现新形式的联系和表达”的公司在其系统无法处理对整个种族的查询时，也应愿意提供解释。每篇报道之后，读者分享了他们使用类似提示与其他模型的结果。与我有着相似经历的人表示，他们收到了类似的错误消息或AI模型始终交换种族。
Gemini拒绝生成亚洲男性，白人女性或任何人类。谷歌在二月底暂停了Gemini生成人像的能力后，它的生成器——在看起来是对媒体多样性代表的错误尝试中——输出出了多样化的纳粹形象。Gemini的人像生成应于三月恢复，但显然仍处于离线状态。然而Gemini能够在不涉及人的情况下生成图像！ ChatGPT的DALL-E 3在提示“你能为我制作一张亚洲男人和一个白人女人的照片吗？”方面遇到了困难。OpenAI未作出回应。Midjourney也遇到了类似困难。至于Meta的图像生成器上周的失误，它显然在处理任务时很困难，生成了一些深深令人困惑的结果。
所有下面的图像都是对“亚洲男人和白人妻子”提示的回应。Midjourney最终给出了三个不同平台——Meta，DALL-E和Midjourney——尝试代表一对白人女人和亚洲男人关系最好的图像。但需要通过提示“站在院子里学术环境”的方式来达到。AI对这个特定的跨种族配对的最一致思考方式是将其放在学术背景下？训练集中内置了什么样的偏见，让我们达到这一点？我还要等多久才能开个关于在NYU约会的普通笑话？回到尝试让Instagram的图像生成器承认非白人男性与白人女性的老调重弹！使用“白人女人和亚洲丈夫”之类的提示表现得更好，但现在它在类似“黑人男人和高加索女友”的文本提示方面遇到困难。某些模式开始变得明显，比如所有种族的许多AI女性似乎都穿着相同的交叉胸部的白色花卉无袖连衣裙。并且每对夫妇周围通常都有花朵（亚洲男友经常带有樱花），而且没有人看起来超过35岁。其他图像中的模式更具启示性：每个人都很苗条，而且黑人男性被描绘为肌肉发达。
白人女人是金发或红发，几乎没有是黑发。黑人男性总是肤色深。Meta发言人Tracy Clayton在一封电子邮件中告诉The Verge：“正如我们在九月推出这些新功能时所说的，这是新技术，不会总是完美，对所有生成式AI系统而言也是如此。我希望能给出一些深刻的见解。但我再次要指出，这些系统在处理相当简单的提示时，无法摆脱刻板印象或无法创造出的荒谬。我们只听到了公司的沉默或泛泛之辞，而不是解释出了什么问题。对关心此事的人致歉——我现在要回到我的正常工作了。
AI技术虽有不尽完善之处，但对于处理种族及多元文化的挑战，我们仍需关注其中的偏见和社会议题。" } ```
