Source: Slashdot
周二,Taser公司宣布推出名为Draft One的新工具,使用建立在OpenAI的GPT-4 Turbo模型上的人工智能来转录来自背身摄像机的音频,并自动转化为警察报告。Taser公司CEO Rick Smith告诉《福布斯》杂志,警察随后可以审查文件以确保准确性。据报道,Taser声称该工具的早期测试者Fort Collins科罗拉多州警察局报告撰写时间减少了82%。Smith说:“如果一名警官将一半时间用于报告,而我们可以减少一半时间,我们有机会释放出警员25%的时间,让他们重新投入警务工作。
然而,这些报告常常被用作刑事审判的证据,批评者担心依赖人工智能可能会把人们置于风险之中,因为依赖已知“产生幻觉”或虚构的语言模型以及表现出明显或无意识的种族偏见。电子前沿基金会的监控技术调查主任Dave Maass表示:“这有点儿像噩梦。那些不是人工智能专家的警察,也不会成为识别人工智能问题的专家,将使用这些系统生成可能会影响到数百万人参与刑事司法系统的语言。会发生什么问题呢?”Smith承认存在危险。
当人们谈论人工智能的偏见时,真正的问题是:这样会通过利用将以不同方式对待人的训练数据而加剧种族主义吗?”他对《福布斯》说。这是主要风险。Smith表示,Taser公司建议警察不要使用AI为像警察枪击这样严重的事件撰写报告,以免错过重要信息。
警察涉及枪击的情况可能不适用于这个场景,我可能会劝人们不要使用,因为情况非常复杂,风险非常高。他说,一些早期客户只使用Draft One处理轻罪,而另一些人则处理“更重大的事件”,包括使用武力案件。然而,Taser公司将无法控制各个警察局如何使用这些工具。
在使用AI生成警察报告的同时,存在种族偏见和风险的担忧,我们是否应该在技术的推动下反思公正和平等的重要性呢?" } ```