• 我的订阅
  • 科技

OpenAI语音转写工具被曝严重缺陷:凭空捏造大段虚假内容

类别:科技 发布时间:2024-10-28 12:59:00 来源:浅语科技

快科技10月28日消息,据报道,OpenAI旗下的AI语音转写工具Whisper被曝存在严重缺陷,竟会无中生有地创造大段乃至整句的虚假信息,这一消息引起了广泛关注。

尤为引人注目的是,有医疗机构公开承认采用了Whisper来记录医生与患者间的会诊内容,此举迅速在网络上掀起了轩然大波。

目前,包括美国明尼苏达州曼卡托诊所、洛杉矶儿童医院在内的众多医疗机构,已有超过30000名临床医生和40个卫生系统开始使用法国AI诊疗公司Nabla基于Whisper开发的工具。

然而,值得注意的是,OpenAI此前已明确发出警告,指出Whisper不宜在“高风险领域”内应用。

一位机器学习工程师在初步分析超过100小时的Whisper转录数据时,惊人地发现其中约有一半的内容存在“幻觉”现象,即转写内容与原始语音严重不符。

关于Whisper这一严重缺陷的具体成因,目前仍不得而知。但有软件开发者推测,这些虚构内容的产生往往与语音中的停顿、背景噪音或音乐播放等因素有关。

针对此问题,OpenAI方面表示,公司正在积极研究如何有效降低虚构内容的产生,并对研究人员的发现表示感谢。同时,OpenAI还承诺将在后续的模型更新中融入相应的反馈机制,以期进一步提升转写的准确性和可靠性。

OpenAI语音转写工具被曝严重缺陷:凭空捏造大段虚假内容

【本文结束】如需转载请务必注明出处:快科技

责任编辑:鹿角

文章内容举报

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-10-28 14:45:14

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

专家:openai语音转写工具存在重大缺陷
...语音转写工具Whisper存在一个重大缺陷:有时会凭空生成大段甚至整句虚假内容。这些专家指出,这些生成的文本(IT之家注:业内通常称为“AI幻觉”)可能涉及种族言论、暴力措辞
2024-10-29 05:46:00
有些情商低的人,最喜欢在微信上说这三句话
...重要,甚至都不值得你特意认真给他发一条消息。三:发大段的语音消息微信有一个很实用的功能就是,可以发语音消息,在一些情况下可以节省我们很多的时间。但是语音消息,并不是在任何场合
2023-06-21 12:58:00
“Sora目前仍不够可靠,应用场景受限”
...档,其主要的内容包括Sora的介绍、生成的视频、还包含大段的其他媒体、自媒体发布的解读文章,其中90%的内容都是能够在网络上公开找到的资料。而另一份售卖的“教程”则列举了普通
2024-03-02 10:00:00
雷军将网友“骂”了整整七天!AI声音诈骗防不胜防?
...限制了未付费用户的访问权限。这不仅可以帮助用户识别虚假音频,还能减少恶意滥用的机会。AI公司应当进一步发展检测技术,与政府和行业组织合作,确保AI语音技术在合法、合理的范围内
2024-10-09 09:50:00
变脸又换声“外孙”来骗钱
...“有福气的奶奶您来了……”一个幼童双手合十,讲着一大段“正能量”语录,这样不符合常理的视频,却获得颇高人气。打开评论区,有不少头像为中老年人的账号留言称赞“小孙子说得好”。“
2024-04-08 13:25:00
张杰携女儿为谢娜庆生,跳跳发大段语音好能说,还曝光小咘芽生日
...给妹妹准备礼物。总之,巴拉巴拉说了一大堆的跳跳,一大段语音都达到了微信语音极限时长真的是好能说,这口才一看就是完美遗传了身为主持人的妈妈谢娜。 话说,在跳跳的大段语音中最惹
2023-05-09 19:22:00
美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?
...案,2017年;米勒诉联合航空案,1999年。这些案件都配有大段大段的引文,原告和被告公司之间的恩怨情仇写得清清楚楚。这份翔实的法律摘要交上去,一定能打动法官大人的心吧?就在
2023-05-30 11:39:00
...学习。生成式对抗网络参照的样本越多,通过迭代生成的虚假内容越接近真实。深度伪造还结合目标对象的语音、微表情等生物特征进行综合学习,这样的全方位模拟是其他伪造技术达不到的。因此
2024-05-21 02:09:00
Meta推出AI音频工具,能鉴别AIGC音频和真人音频,已在GitHub开源
...,在大规模采用这些音频水印之前,还需要克服一些主要缺陷。Meta 的研究人员测试了不同的攻击来去除水印,最终发现关于水印算法的信息披露得越多,它就越容易受到攻击。该系统还要求
2024-06-20 09:34:00
更多关于科技的资讯: