当前的位置: 首页 > 文章列表 > 手机平板 > OpenAI语音转写工具Whisper不时生成虚假内容 将通过更新修复

— OpenAI语音转写工具Whisper不时生成虚假内容 将通过更新修复 —

更新时间:2024-10-28 17:32:54 编辑:丁丁小编

【太平洋科技快讯】最新报道揭露,OpenAI的语音转写工具Whisper存在严重问题,该工具在转写过程中不时地创造出大量甚至整句的虚假内容。这一情况由多名软件工程师、开发人员和学术研究人员共同指出。这些虚假内容涉及敏感领域,这种现象在业内被称为“AI幻觉”。

专家们对Whisper的广泛应用表示担忧。目前,该工具已被全球多个行业采用,用于翻译、转录访谈、生成科技文本和视频字幕制作等。特别是在医疗机构中,尽管OpenAI已警告不宜在高风险领域使用Whisper,仍有部分机构在使用该工具记录医患咨询。

实际案例显示,Whisper的“幻觉”现象普遍存在。例如,密歇根大学一位研究员发现,在研究的十份公共会议音频转录中,有八份含有虚构内容。此外,一位机器学习工程师在分析超过100小时的Whisper转录后发现,约一半内容存在“幻觉”现象。还有开发人员指出,在其生成的26000份转录中,几乎每一份都含有虚假内容。

针对此问题,OpenAI发言人表示,公司正在努力研究减少“幻觉”现象的方法,并对研究者的发现表示感谢。公司承诺将在未来的模型更新中采纳这些建议。

本文转载于:https://www.sohu.com/a/821148942_223764 如有侵犯,请联系dddazheyh@163.com删除

热门优惠券

更多