医院使用易产生幻想的OpenAI模型转录工具问题严重（音频）

几个月前，一名医生展示了他使用的AI转录工具，该工具用于记录和总结与患者的交流。在某些情况下，转录结果还可以，但ABC新闻引用的研究人员发现，这并非总是如此。OpenAI的Whisper技术被多家医院使用，Nabla公司估计该工具已转录了700万次医疗对话。 超过30,000名临床医生和40个医疗系统正在使用这个工具。研究发现，Whisper在大约1%的转录中产生了幻想，虚构整个句子，有时包含暴力内容或无意义的短语。在接受了语言障碍影响的人发言时，安静的地方尤其常见。 研究人员指出，这种不准确的转录可能会在法庭等正式记录中产生不良后果。Nabla公司表示正在意识到Whisper的这一问题并积极解决。 OpenAI的发言人表示，他们正在认真对待这一问题并持续改进。。

打开APP收听