Source: The Verge
OpenAI为ChatGPT推出了新的高级语音模式，开始向订阅ChatGPT Plus的少数人推出。这一功能在OpenAI在五月的GPT-4o发布活动中展示，被批评声音类似斯嘉丽·约翰逊，后来因安全原因推迟。在OpenAI的活动中，新的语音模式似乎比ChatGPT当前的语音模式更具实用性。在舞台上，OpenAI员工能够中断并要求与聊天机器人以不同方式讲故事，聊天机器人则可以应对他们的干扰以调整回应。
这一高级模式原计划于六月底发布alpha版，但OpenAI将推迟一个月才发行以“达到我们的发行标准。作为延迟的一部分，公司表示正在“改进模型识别和拒绝某些内容的能力。OpenAI发言人Taya Christianson表示，公司通过100多名外部研究小组（试图攻击技术以发现弱点的人）测试了语音模型的能力。
公司最近面临了许多关于安全政策的质疑，因此这种暂停可能是正确的选择。OpenAI还“添加了新的过滤器，将识别和阻止某些请求生成音乐或其他受版权保护的音频”，Christianson表示。在OpenAI的活动中，新模式的一个关键批评是舞台上的声音“Sky”听起来非常像约翰逊，她在电影《Her》中扮演了一个AI人格。
虽然这一声音在OpenAI春季演示之前就在ChatGPT中出现过，但在约翰逊透露她已发送信件给OpenAI问声音是如何制作的之前，公司很快将其删除。Christianson表示，ChatGPT的新模式将仅使用与声优制作的四种预设声音，并补充道：“我们确保ChatGPT无法模仿他人的声音，包括个人和公众人物，并将阻止与这些预设声音不同的输出。OpenAI计划在秋季为所有ChatGPT Plus用户推出新模式。
技术的发展须与道德和隐私保护并重，如何平衡人工智能的发展与社会伦理是我们需要深思的议题。
