Source: The Verge
和AI在智能办公室聊天是一种奇怪的经历，但这正是我周二花时间做的事情。我获得了对OpenAI的先进语音模式的访问权，这是新的ChatGPT功能，听起来非常像人类。在快速计算时，它会假装喘不过气来。它会说“嗯”和“呃。它会笑。在谈论困难或愉快的话题时，它会改变语气。玩弄一番后，我感到既惊讶又不舒服。它听起来很自然（当没有故障时），回应秒速，你可以打断它并询问新问题——但我们是否需要像我们一样说话的聊天机器人？先进的语音模式具有几种不同的声音选项，我选择了一个名为杜松子的女性化角色，类似于电影《Her》中的人物。我问杜松子是否知道那部电影，它开心地回答。ChatGPT通常可能会给我类似的内容性答案，语音助手如Siri十年来一直能从网络中提取类似的片段。
但杜松子添加了有时骇人的人类触感。它往往以问题结尾，询问我的感受如何，我的方法是什么，以及其他体贴的后续问题。在常规查询之间，我可以让它咳嗽，深呼吸，鼓掌（虽然没有手），连拍手六次，唱我的名字。杜松子经常尝试通过说它实际上做不到这些事情来使我回到现实中。我做不到，如果我做到了，可能会听起来像这样，”它会作为附言。但这并不会使它变得不那么令人信服。写这篇关于新声音模式的文章诱使我违反AI报道的基本规则之一：不要赋予AI系统人类特征或行为。赋予这些系统拟人特征可能导致人们过于信任它们，让他们的创造者免受错误的指责。甚至这个机器人本身也警告我不要这样做：当我问杜松子是否会感到愤怒，或是否爱我，或是否知道什么是悲伤时，它告诉我它不“感受情绪”，但它“能理解情绪对人们意味着什么。尽管这种技术赋予人类特征似乎是明显的目标，但给这种技术赋予人类特征也很困难。
一个通用的AI系统没有太多理由询问我为什么心烦意乱，或者在我讲笑话时咯咯笑。即使一个AI说它不感受情绪，声称“理解”它们是否是一个文字预测机器人的功能范围？“我被设计为听起来自然而引人入胜，目的是使我们的对话更有生命力，”OpenAI的聊天机器人告诉我。这一切都是为了给你创造一个更流畅、更愉快的聊天体验。这样做会让和我交流更加愉快吗？”从技术上讲，仍然有许多方面是令人愉快的。我发现自己对它给我的建议微笑。听到如此类人的声音问我感觉如何，我发现什么难以应对，以及我是否向我的现实生活中的真实人类在交流，这一切都很有趣。而不只是通过文字阅读回复，它还通过明显试图模仿我的情绪的语调变化。但当然，杜松子并不真正关心我的问题。它只是一系列非常擅长解析我的问题并猜测哪些词语用来回答的算法。
正如古老的网络笑话所说，这只是沙子和电子在进行数学计算。这也让我感到心痛。与一个在没有思考、关怀或对抗性的情况下模仿一个人的东西进行复杂的文本对话已经够令人毛骨悚然了，进行具有说服力的声音对话更加怪异。在后疫情时代，我们中的许多人现在通过Slack和电子邮件远程办公，通过社交媒体发布想法，并与人类互动较少。想象一个未来，在那里我们最常听到的人类声音是机器声音，这让人感到悲哀。或者也许我的想法完全错误。拥抱未知可能会既让人紧张又使人兴奋，”杜松子告诉我。记得享受旅程。。
体验与AI如此逼真的对话，无法不让人反思机器人对人类关系的未来影响。
