• 我的订阅
  • 头条热搜
专家:openai语音转写工具存在重大缺陷
...术研究人员称,OpenAI的语音转写工具Whisper存在一个重大缺陷:有时会凭空生成大段甚至整句虚假内容。这些专家指出,这些生成的文本(IT之家注:业内通常称为“AI幻觉”)可能涉及种族言论、暴力措辞,甚至杜撰的医疗建议...……更多
OpenAI语音转写工具被曝严重缺陷:凭空捏造大段虚假内容
...,据报道,OpenAI旗下的AI语音转写工具Whisper被曝存在严重缺陷,竟会无中生有地创造大段乃至整句的虚假信息,这一消息引起了广泛关注。尤为引人注目的是,有医疗机构公开承认采用了Whisper来记录医生与患者间的会诊内容,...……更多
ChatGPT张口就来的“病”应该怎么“治”?
...弱点。」因此,从这个角度来看,是 AI 模型设计的根本缺陷导致了「幻觉」。此外,AI 领域的研究还表明,除了设计理念,AI 模型的训练数据集的限制也会导致「幻觉」,主要包括特定数据的「缺失」,和「压缩」。在 2021 年...……更多
微软GenAI开发被曝遭遇瓶颈,转攻AI安全推出「抗幻觉神器」
...段阻碍生成式人工智能在现实中更广泛地应用落地的最大缺陷,就是「幻觉」(hallucinations)。幻觉是指缺乏基础数据支持的内容的生成,输出误导性的信息。这种现象尤其与大型语言模型( LLMs )相关。在医学、自动驾驶等高...……更多
微软研究人员正在测试其他ai模型
...自有AI产品(例如Copilot)来试图攻克AI幻觉,研究一系列工具来帮助机器解决幻觉问题。微软表示,其工程师花了数月时间,通过检索增强生成技术(一种无需重新训练模型即可向模型添加额外知识的技术)将必应搜索数据作为C...……更多
生成式AI“卷”应用层,但仍受困于高成本、幻觉和低留存率
...志峰总结说,现有AI应用分布在“3C”领域:作为生产力工具的Copilot、辅助创意(Creativity)落地的图片和视频生成工具、情感陪伴(Companionship)类的产品。周志峰发现,AI应用类型正经历从用来提高效率(Save Time),向旨在获得...……更多
2023 年度热词,只能是它
...与此同时,它的使用场景越来越日常。9 月,ChatGPT 推出语音和图像功能,能看、能听、能说话。五感是人类和世界互动的方式,也正在成为我们与 AI 的互动方式。Sam Altman 曾在接受采访时说道,人们第一次使用 ChatGPT 时,可能...……更多
「学术版ChatGPT」登场!Ai2打造科研效率神器OpenScholar,让LLM帮你搞定文献综述
...常识问答,但在学术打工人眼中,用AI进行文献搜索依旧缺陷重重,还是传统的谷歌搜索和谷歌学术更好用。为了填补这方面的空白,华盛顿大学NLP实验室和Ai2、Meta等机构合作,开发了专门服务科研人的学术搜索工具OpenScholar。 ...……更多
OpenAI入局AI搜索 SearchGPT演示中“翻车”
...“幻觉”行为实际上是其创造性的体现,而非纯粹的技术缺陷。 OpenAI财务告急显然,“AI幻觉”目前仍是困扰AI科技公司的一大难点。对此,OpenAI表示,为了解决“AI幻觉”问题,SearchGPT使用的内容库将全部来自合作出版方的高...……更多
...的文本块。对于AI聊天机器人此前暴露出的幻觉、偏见等缺陷,GPT-4也有所改进。但专家指出,这并不意味着这些缺陷已被修复,GPT-4仍会做错最基础的算术题。另据介绍,和ChatGPT不同,使用GPT-4需每月支付20美元的订阅费。各类...……更多
深挖大模型幻觉!哈佛大学最新报告:LLM等价于众包,只是在输出「网络共识」
...包系统相似。因此,虽然大模型可以作为常见任务的有用工具,但模型对晦涩和有偏见的主题应该谨慎解释;大模型对于世界的陈述依赖于概率模型,其准确性与训练集数据的广度和质量存在强关联。参考资料:https://the-decoder.c...……更多
Sam Altman或筹数十亿美元自造AI芯片,DeepMind首席科学家或将辞职创业
... Pro、GPT-4 0613等模型。9.马毅LeCun谢赛宁曝出多模态LLM重大缺陷!开创性研究显著增强视觉理解能力纽约大学和UC伯克利的研究团队,包括知名学者马毅、谢赛宁和图灵奖得主LeCun,发现了多模态大模型(MLLM)在视觉理解方面的重...……更多
深度剖析:谷歌、微软等AI巨头承诺的“自愿监管”做到了吗?
...上的解决办法,例如红蓝对抗(人类探究人工智能模型的缺陷)和为人工智能生成内容添加水印。斯坦福大学基础模型研究中心负责人 Rishi Bommasani 表示,目前尚不清楚这些承诺发生了哪些变化,也不清楚这些公司是否会实施这...……更多
...一种刺激中枢神经系统的药物,哌甲酯主要用于治疗注意缺陷与多动障碍(ADHD)患者。服用后,它会通过提高多巴胺水平来暂时提高注意力,因此也被不少韩国人误认成提高考试成绩的“聪明药”。据韩国SBS电视台22日报道,韩...……更多
召唤100多位学者打分,斯坦福新研究:「AI科学家」创新确实强
...问 LLM 或许就能有意想不到的收获。 生成创新想法的 AI 工具,正在不断涌现实际上,已经有研究团队在打造专用于此类任务的 AI 工具了。比如近日一位专注于开发 LLM 应用的研究者 Shubham Saboo 就在社交网络分享了使用 Cursor 构...……更多
回顾GPT大模型2023这一年,5大顶级公司预测2024年AI产品
...引起轰动。他的模型不仅能够处理文字信息,还能够理解语音和图像,为用户提供更全面的体验。这个小佬(未来的大佬)的努力不仅让他个人脱颖而出,也为大模型领域带来了新的思路和可能性。这不仅仅是一场技术革命,更...……更多
Meta推出AI音频工具,能鉴别AIGC音频和真人音频,已在GitHub开源
...,在大规模采用这些音频水印之前,还需要克服一些主要缺陷。Meta 的研究人员测试了不同的攻击来去除水印,最终发现关于水印算法的信息披露得越多,它就越容易受到攻击。该系统还要求人们自愿将水印添加到他们的音频文...……更多
中关村科金1+N新品系列亮相,为企业打造大模型强人工智能应用
...模型在模块验证获得4+级评分。该模型具备全面的语义、语音、视觉等基础能力,在5个能力域、46个能力项评测中准确度达95%+。此外,该模型支持语义分析、对话系统、情感分析、文本分类、文本生成、知识图谱、文本内容推荐...……更多
...《自然》(Nature)杂志在线发表了一篇题为《为什么BMI有缺陷?如何重新定义肥胖》(“Why BMI is flawed — and how to redefine obesity”)的文章,称BMI不能用来衡量身体的健康程度。据文章介绍,身体质量指数(BMI)通过体重(公斤...……更多
AI哨所 | AI比核武器还危险?ChatGPT为此建立了一支“红队”
...称AI比核武器还危险“我认为,它会让每个人都拥有一种工具,可以更快、更准确地做化学反应,”他表示,“但人们也存在重大风险……做危险的化学反应。现在,这种情况确实存在。”这一令人担忧的发现使得OpenAI能够确保...……更多
OpenAI o1模型到博士水平了?复旦教授:没有真正推理能力,学到的还是概率相关性
...过,这仍然无法彻底解决幻觉问题,但思维链为AI的三大缺陷(不可信、不可控、不透明)提供了思路。它可以“读取模型的思想”并理解其思维过程,检测AI是否试图操纵用户,以及为 AI决策提供解释性,增加透明度和可信度...……更多
谷歌苹果曝出LLM惊人内幕,自主识别错误却装糊涂!AI幻觉背后藏着更大秘密
...错误检测的性能,并进一步缓解这些问题。不过其中一个缺陷是,这些研究主要集中了检验模型生成最后一个token、或提示符中最后一个token。由于LLM通常会生成长篇的相应,因此这一做法可能会错过关键细节。在最新研究中,...……更多
浪漫杀手!与AI谈恋爱有风险
在7月底,OpenAI推出了ChatGPT高级语音模式,其功能让用户感到震惊。而在周四发布的一份安全审查报告中,该公司承认,这种拟人化的声音可能使一些用户产生情感上的依恋,从而影响到正常的人际关系。据OpenAI此前介绍,高级...……更多
OpenAI没有放弃的机器人梦想
...究人员将机器人摄像头捕获的图像和机载麦克风捕捉到的语音转录文本,输入到一个由OpenAI训练的大型多模态模型中,然后由该模型处理对话的整个历史记录,得出语言响应,然后通过文本到语音的方式将其回复给人类。“同样...……更多
GPT-4V医学执照考试成绩超过大部分医学生,AI加入临床还有多远?
...部分医学生,为人工智能能够作为辅助诊断和临床决策的工具提供了理论上的可能。该研究分析了 GPT-4V 在不同医学子领域的性能。同时,该研究还指出了医疗人工智能在一致解释方面的局限性,强调了人机协作在未来医疗诊断...……更多
宇航员在太空遇到的“诡异幻觉”,或许是空间环境对大脑的影响
...为了应对这些挑战,宇航员进行了专门的训练和使用各种工具和设备来帮助他们适应太空环境。通过科学的研究和技术的进步,我们可以更好地理解和解决这些挑战,为未来的太空探索提供更可靠的支持。宇宙辐射对大脑和神经...……更多
三星galaxys22出人意料地发现零日漏洞
...和西部数据的NAS(网络附加存储)设备中的关键“零日”缺陷已经被发现。该品牌的旗舰智能手机GalaxyS22也被许多黑客使用,他们很快发现了该设备的缺陷。STARLabs团队和Chim团队揭示了GalaxyS22的两个关键缺陷。它发生在Pwn2OwnToron...……更多
李彦宏:大模型已基本解决幻觉问题 发布两大“超级有用”AI技术
...能应用的AI技术:检索增强的文生图技术(iRAG)和无代码工具“秒哒”。文心iRAG用于解决大模型在图片生成上的幻觉问题,极大提升实用性;无代码技术“秒哒”让每个人都拥有程序员的能力,将打造数百万“超级有用”的应...……更多
谷歌人工智能聊天机器人正在使用bard
...可能带来安全和隐私灾难。科技公司正在将这项存在严重缺陷的技术交到数百万人的手里,并允许人工智能模型访问他们的电子邮件、日历和私人信息等敏感信息。在这个过程中,他们使我们都更容易遭遇大规模的诈骗、网络钓...……更多
当一个清华教授问AI觉得自己革了谁的命
...会。AI辅助行业工作者:在医疗、法律、教育等领域,AI工具和应用的发展有助于提高专业人士的工作效率,允许他们花更多时间处理更复杂、需要人类专业知识的任务。2.受冲击者低技能和重复性工作的劳动者:AI和自动化技术...……更多
更多关于科技的资讯:
11月28日至30日,2024中国数字化年会在成都举行。其间举行2024第七届数字化转型与创新评选颁奖典礼,来自我市的太原罗克佳华工业有限公司
2024-12-01 07:39:00
高质量发展调研行天津北方网讯:10公里温降不超过1℃,远距离传输时温度基本没有衰减。一条天津本土的保温管,凭借出色的性能屡屡被海南博鳌论坛
2024-12-01 09:16:00
写在第二届链博会闭幕之际:续写更多“共赢链”之约的故事
本文转自:人民网唐佳第二届中国国际供应链促进博览会现场。人民网唐佳摄东方有约,万商云集。11月30日,第二届中国国际供应链促进博览会(以下简称“链博会”)圆满闭幕
2024-12-01 09:31:00
南报网讯(记者张甜甜)11月28日,第七届江苏人工智能大会在江苏扬州举行,多家南京企业现场亮出AI“科技绝活”,展示人工智能如何赋能千行百业
2024-12-01 09:59:00
何以中国·弦歌不辍丨探秘地心的造“梦”者
本文转自:人民网何以中国·弦歌不辍丨探秘地心的造“梦”者——访“梦想”号副总设计师赵建亭方经纶2024年11月,我国自主设计建造的首艘大洋钻探船“梦想”号正式入列
2024-12-01 10:12:00
本文转自:人民网-湖南频道人民网长沙11月30日电 近日,国网湖南综合能源公司自主研发的基于区块链技术的新型储能智慧集控平台
2024-12-01 10:15:00
新一代量子金刚石磁力仪在合肥高新区诞生
大皖新闻讯 电子学模块仅一个充电宝大小、产品主要参数达到国际领先水平、可用于航磁物探等领域……11月28日,由辖区企业国盛量子自主研发的新一代量子金刚石磁力仪QDM-100在合肥高新区正式发布
2024-12-01 10:15:00
铲铲猫砂工厂投产仪式暨小兽科技“王如花”品牌新品发布会圆满举行
大众网记者 宋学敏 潍坊报道11月28日,铲铲猫砂工厂投产仪式暨小兽科技“王如花”品牌新品发布会在小兽科技铲铲猫砂产业园隆重举行
2024-12-01 10:17:00
本文转自:人民网11月30日,2024-2025赛季单板及自由式滑雪大跳台世界杯继续在北京首钢“雪飞天”进行。作为此次赛事官方合作伙伴
2024-12-01 10:22:00
潜成思源公司:以工匠精神书写高质量发展新篇 扫码阅读手机版
天津北方网讯:党的十八大以来,我国把绿色低碳和节能减排摆在突出位置。在津南区小站工业园区,一家潜水电泵生产企业,正以工匠精神潜心钻研
2024-12-01 10:27:00
中国柒牌携手欧睿发布五项全球领先数据
11月29日,中国柒牌携手欧睿国际举办了全球声明发布会。会上,权威市场调查机构欧睿向中国柒牌正式签署并颁发了“中华立领新中式男装全球销量第一”在内的五项声明成就
2024-12-01 10:47:00
片仔癀化妆品荣获“大国好货·2024年度品牌企业”
怀大国匠心,造品质好货。2024年11月28日,第31届中国国际广告节大国好货嘉年华在福建厦门国际会议展览中心B1馆盛大启幕
2024-12-01 10:49:00
九牧携手比亚迪仰望联合发布,硬核科技亮相全球!
11月29日,“大国好货嘉年华——九牧以旧换新全国发布仪式”在厦门隆重举行。本次发布会不仅是九牧集团积极响应国家“以旧换新”政策号召的一项重大行动
2024-12-01 10:53:00
综合AutoNews及Carscoops今日报道,大众与美国造车新势力Rivian斥资58亿美元(IT之家备注:当前约420
2024-12-01 00:03:00
首发 AMD锐龙77840HX处理器的微星雷影17新品将于12月1日0点上市,补贴前7599元。这款游戏本采用了AMD锐龙77840HX移动处理器
2024-12-01 00:06:00