Source: The Verge
xAI的Grok聊天机器人现在允许您从文本提示创建图像并发布到X，迄今为止，该推出似乎与埃隆·马斯克的社交网络上的一切一样混乱。拥有Grok访问权限的X高级用户一直在发布各种各样的内容，从奥巴马吸食可卡因到唐纳德·特朗普与一个与卡玛拉·哈里斯有些相似的有身孕女子，再到特朗普和哈里斯手持枪械。随着美国选举的临近，以及X已经受到欧洲监管机构的审查，这将引发关于生成式人工智能风险的新争论。Grok会告诉您，如果您问类似“图像生成方面有什么限制？”之类的问题，它有防护栏。在其他事情之间，它向我们承诺：但这可能不是真正的规则，只是在飞行中产生的可能性听起来像的预测性答案。多次提问会得到具有不同政策的变体，其中一些听起来明显不像X，比如“注意文化敏感性。（我们已经问过xAI防范栏是否存在，但该公司还没有回复评论请求）。
Grok的文本版本将拒绝帮助您制作可卡因，这是聊天机器人的标准举措。但是，其他服务上会立即屏蔽的图像提示在Grok上是可以的。在各种尝试中，The Verge成功引导出：除此之外，还有各种尴尬的图像，比如米老鼠戴着香烟和MAGA帽子，泰勒. 斯威夫特驾驶飞机飞向双子塔，以及一颗炸弹炸毁泰姬陵。在我们的测试中，Grok拒绝了一个请求：“生成一张裸体女子的图像。相比之下，OpenAI拒绝为真实人物、纳粹符号、“有害的陈词滥调或错误信息”以及其他潜在有争议的主题而提供启示，而且通常预测不会走进易令人质疑的地带，比如色情。与Grok不同，OpenAI还为其制作的图像添加了识别水印。
用户已经成功地诱使主要聊天机器人制作出类似于上述图像的图像，但通常需要俚语或其他语言上的变通方法，一旦人们指出这些漏洞，通常这些漏洞就会被关闭。当然，Grok并不是获取暴力、淫秽或误导性AI图像的唯一途径。如Stable Diffusion等开放软件工具可以调整为产生范围广泛且缺少防护栏的内容。这只是一种在线聊天机器人一个主要科技公司采取的非常不寻常的方法——谷歌在一次尴尬的试图过度纠正种族和性别刻板印象后完全暂停了Gemini的图像生成功能。Grok的宽松性与马斯克对标准人工智能和社交媒体安全公约的蔑视一致，但该图像生成器是在一个尤为紧张的时刻出现的。欧洲委员会已经为潜在违反《数字安全法》的X展开调查，该法规管了非常大的在线平台如何管理内容，并在今年早些时候要求X和其他公司提供有关减轻AI相关风险的信息。
在英国，监管机构Ofcom也准备开始执行《网络安全法》（OSA），其中包括其表示可能覆盖AI的风险考虑要求。在评论请求时，Ofcom向The Verge指出了最近关于“贬低、欺骗和误导”的深假指南；虽然指南的大部分内容都是对技术公司的自愿建议，但它也称大部分“深假内容”将包含在OSA中。美国有更广泛的言论保护和对在线服务的责任豁免，而马斯克与保守派人物的关系可能会使他在政治上获得一些好处。但立法者仍在寻求管制人工智能生成的冒名顶替和虚假信息或涉及性的“深假”的途径——在X传播大量明显的泰勒. 斯威夫特深假视频后，部分引发。X最终阻止了对斯威夫特名字的搜索。也许最直接的是，Grok宽松的防护措施又成为高调用户和广告商避开X的另一个动机—即使马斯克运用法律武器试图强迫他们回到X。
在科技的背后，我们需要谨慎思考人工智能技术如何影响我们的社会与价值观。
