• 我的订阅
  • 头条热搜
大幅减缓幻觉 百融云创大模型精度测评结果出炉
近日,百融云创大模型参加一场“考试”,并取得了行业领先的成绩,多项指标优于ChatGPT3.5。随着各类大模型的相继问世,如何去评估大模型的性能变得越来越重要。百融云创参加的这场“考试”名叫检索增强生成基准测评,...……更多
ChatGPT张口就来的“病”应该怎么“治”?
...章,让 ChatGPT 如此「自信胡扯」的原因,是 AI 产生了「幻觉」。那么,是什么让 AI 大语言模型产生了「幻觉」,业界又是如何看待 AI 幻觉的?01.ChatGPT「张口就来」「幻觉(Hallucinations)」一词源于人类心理学,人类的幻觉是指...……更多
美国执念抹黑他国 恰似人工智能“幻觉”
“幻觉”,在人工智能领域是一个专业术语,被用于描述机器可能输出“无中生有”的内容。这样的“幻觉”也出现在一些美国政客身上,他们无中生有地污称中国用人工智能技术收集美国人数据。治疗这种“幻觉”,美国一...……更多
生成式AI“卷”应用层,但仍受困于高成本、幻觉和低留存率
...峰发现,生成式AI应用的落地依旧面临高昂成本、大模型幻觉和用户留存率低的三大难题。7月6日,周志峰在2024世界人工智能大会一场创投论坛上分析说,去年同期每百万token的基座大模型API调用成本,还处于120美元左右,而今...……更多
依托数据、平台、知识增强等优势 夸克大模型降低问答幻觉率
...性。在医疗健康领域,夸克大模型已经可以将问答内容的幻觉率降低至5%。夸克推进搜索革新,自研大模型打造技术新底座在互联网高速发展的30余年中,搜索曾经高效地满足了用户主动获取信息的需求。基于大模型的AIGC技术将...……更多
GPT-4批评GPT-4实现「自我提升」!OpenAI前超级对齐团队又一力作被公开
...前插入的特定bug,即CBI(critique-bug inclusion)有没有出现幻觉或者挑剔现象,指出了不存在的问题对整体有用性的主观评级,包含上述内容并考虑风格和整体的实用性在训练CriticGPT的过程中,除了RLHF方法,团队将奖励模型与搜索...……更多
鄂维南院士领衔新作:大模型不止有RAG、参数存储,还有第3种记忆
...更快的推理速度; 此外,Memory3 提高了事实性并减轻了幻觉,并能够快速适应专业任务。方法介绍记忆电路理论有助于确定哪些知识可以存储为显式记忆,以及哪种模型架构适合读取和写入显式记忆。研究者将输入输出关系作...……更多
AI 胡说八道怎么办?牛津大学开发了一种“测谎”方法
...方法,下面咱们就详细聊聊。大模型的胡说八道和风险“幻觉”(Hallucinations)是大语言模型(例如 ChatGPT、Gemini、或文心一言)面临的一个关键问题,也是网络上常见的用户体验吐槽类型之一,这个术语可以粗略地理解为 AI 一...……更多
...融入到科学思想的碰撞中。” 近未来型脑洞:“大模型幻觉”何解大模型是当下正火的AI概念。但大模型普遍存在“一本正经地胡说八道”的现象,这被称为“大模型幻觉”。在知乎上就有这样一个问题:当大模型幻觉完全消...……更多
微软研究人员正在测试其他ai模型
...种旨在让模型捏造信息的测试。为了治好这种被称为“AI幻觉”的症状,他们设定了一个会让大多数人头疼的文本检索任务,然后跟踪并改进模型响应,这也是微软在测定、检测和缓解AI幻觉方面的一个例子。微软AI负责项目的首...……更多
人工智能为了游戏获胜会“说谎”
...理论作修订AI“一本正经地胡说八道”这种现象被称为AI幻觉。AI幻觉指的是AI会生成貌似合理连贯,但同输入问题意图不一致、同世界知识不一致、与现实或已知数据不符合或无法验证的内容。人工智能是否会“说谎”,以及最...……更多
...。尽管大模型是划时代的技术突破,但现阶段并不完美,幻觉、时效性差、缺乏专业领域知识等问题,是其落地千行百业必须要面对的挑战。百川智能CEO王小川说,搜索增强是大模型落地应用的关键,能够有效解决幻觉、时效性...……更多
不能简单地将AI幻觉“一棒子打死”
...电子报北京大学计算机学院教授黄铁军:不能简单地将AI幻觉“一棒子打死”4月28日,北京大学计算机学院教授、北京智源人工智能研究院理事长黄铁军在第十七届中国电子信息年会上发表演讲时表示,“幻觉”是人工智能创造...……更多
朱啸虎:AI的赚钱风向,彻底变了!
...不容易。为什么AIGC很难落地?最主要就两个问题:一是幻觉问题;二是结果不可控。一旦AI有幻觉就会出错,而且你不知道什么时候会出错,每次结果还都不一样,所以结果不可控。随着大家对幻觉的研究越来越多,发现造成幻...……更多
国内首个!中关村科金发布企业知识大模型
...判断三个层面,在他看来,目前大模型最为人诟病的是有幻觉问题,对低频常理的事实回答得不好,经常被人们认为一本正经的胡说八道,但可以通过一些其他的手段解决。比如,外挂一些知识库或者符号推进引擎,解决事实判...……更多
2023金融大模型报告|智能交易:求解知易行难
...。这包括但不限于建立合适的模型评估机制、提高模型的精度和可解释性、加强数据的安全性和合规性等。北京商报记者 宋亦桐 ……更多
大模型像“文科生”?业内人士在沪“论战”
...技术负责人张涛则认为,大模型在做辅助工作,并且有“幻觉”(看似合理但实际错误的现象)等缺点。但他认为,人无完人,知识非常渊博的人也会有盲区,要求大模型做一个完美助手,是不太现实的。RWKV元始智能COO罗璇认为,...……更多
埃隆・马斯克推出grok聊天机器人
...异之一。然而,就像所有AI聊天机器人一样,Grok也存在“幻觉”问题,即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型(LLM)中都普遍存在,包括ChatGPT。近日,一个Grok尴尬的“幻觉”在社交媒体上引起热议。...……更多
让大模型“外挂硬盘”,百川智能发布新API系列,企业定制成本大大降低
...前,对于192k token以内的请求,百川智能可以实现100%回答精度。“我们的长窗口能够做到全绿,相当于能完全不遗漏地把192k里的信息全部召回。”王小川表示。并且,结合搜索系统,Baichuan-2能够获取的原本文本规模提升了两个...……更多
AWS搭载“最强大模型”!40亿美元投向OpenAI竞对
...与Claude 2相比,Claude 3最明显的迭代体现在多模态能力、幻觉的降低、长文本能力等方面。例如借助视觉能力,Claude 3可以理解图表、图形、报告等文件,并从中提取数据。▲Claude 3的多模态能力在准确率方面,Claude 3大幅改善了...……更多
零成本突破多模态大模型瓶颈!多所美国顶尖高校华人团队,联合推出自增强技术CSR
...【新智元导读】现有多模态大模型在对齐不同模态时面临幻觉和细粒度感知不足等问题,传统偏好学习方法依赖可能不适配的外源数据,存在成本和质量问题。Calibrated Self-Rewarding(CSR)框架通过自我增强学习,利用模型自身输...……更多
...语料进行训练。星辰语义大模型在业界首次提出缓解多轮幻觉的解决方案,通过关键信息注意力增强、知识图谱强化、多轮知识强化、知识溯源能力四大技术,将AI大模型的幻觉率降低了40%,有助于大模型变得更有“人味”,理...……更多
...生成能力、强大的迁移(推广)能力、强大的交互能力和幻觉。强大的语言生成能力可基于上下文和过去的对话,在开领域生成多样性类似人类的连贯文本。强大的迁移能力可以在代理任务上训练一个模型,通过细调适配到感兴...……更多
大模型应用疯狂加速,洗牌却在静悄悄进行了
...大模型基于训练推理一体化设计,实现大模型稀疏化、低精度量化的技术突破,能高效适配昇腾AI,加速大模型的行业落地应用和迭代;与此同时,以昇腾AI为核心,软硬件协同优化,构建算力集中、协同优化、供给稳定、数据...……更多
库克:苹果智能取得重大突破 但无法回避AI幻觉
...展,但一些人工智能存在问题,苹果也无法回避,比如AI幻觉问题。AI幻觉是指AI在某些时候的盲目自信情况,其会相当自信的给出用户某个问题的答案,但其所提供的回答完全子虚乌有。库克承认这种情况也可能发生在苹果智能...……更多
Runway开发通用世界模型,想让AI更好地模拟世界
...当我们惊叹于大语言模型竟然能够流畅地与我们对话时,幻觉问题让大模型们时不时“胡言乱语”或“答非所问”的情况也让实际的使用体验大打折扣。而这种问题并不仅仅存在于大语言模型领域,在AI扩图和AI视频生成中也屡...……更多
GPT-4不仅性能更强也更贵了:单次输出7.5万单词需6美元,是此前的30倍
...此前模型相似的局限性,仍然不完全可靠,存在事实性“幻觉”并出现推理错误,可能自信地在其预测中犯错。同时,它的使用价格也更贵,其API价格是Chat-GPT API 使用价格的15-30倍。GPT-4实现多项突破,晋升“考霸”相较GPT-3.5,...……更多
...工作。“要想实现大模型在产业的进一步落地,准确性和幻觉问题是不可回避的挑战。”百融云创AI创新负责人表示。大模型想要精准,前置的数据处理环节非常重要。在这一环节,百融云创打造了智能版面识别系统。很多企业...……更多
...回答人们提出的问题,这就导致它们经常胡编乱造,即AI幻觉。里德对此表示,AI概览通常不会 “产生幻觉”,也不会像其他大语言模型产品那样胡编胡造,因为它们与谷歌的传统搜索引擎更紧密地结合在一起,只显示最权威或...……更多
英伟达推出“护栏”软件 让AI聊天机器人不再胡说八道
...新月异,但也存在一些难题,比如 AI 模型有时会出现“幻觉”,即说出错误的事实、涉及有害的话题或导致安全风险。为了解决这个问题,英伟达在周二发布了一款新的软件,名为 NeMo Guardrails,可以帮助软件开发者给 AI 模型设...……更多
更多关于科技的资讯:
华为nova13系列即将闪亮登场,能否成为市场的焦点?
华为nova13系列即将闪亮登场!据悉,全系标配麒麟芯片,并支持旗舰级卫星通信技术,这次能否成为市场的焦点?华为nova12随着华为业务的全面复苏
2024-07-14 00:28:00
荣耀magic6pro:耐摔性能和卫星通信技术的突破
智能手机的耐摔性一直是消费者关注的重点之一,在早期,由于技术限制,智能手机普遍不具备出色的耐摔性能。这导致消费者在购买手机后
2024-07-14 01:21:00
助听器芯片应该如何选择
毋庸置疑,助听器最重要的零部件就是芯片,所有核心的信号处理算法如多通道宽动态范围压缩(WDRC)、智能降噪、自适应方向性以及自适应反馈抑制都是在这一块小小的芯片里完成运算的
2024-07-14 01:32:00
荣耀magicpad2:ai赋能的pc级生产力
在科技日新月异的今天,荣耀即将推出的MagicPad2平板以其“AI赋能的PC级生产力”为核心卖点,正悄然引领着平板市场向更高效
2024-07-14 02:43:00
本文转自:人民日报本报记者 冯学知《 人民日报 》( 2024年07月14日 第 05 版)广东深圳,前海深港青年梦工场(以下简称“梦工场”)北区
2024-07-14 05:55:00
编者按
2024-07-14 06:12:00
看手机还能护眼!荣耀赵明:估计所有人都会跟进 我们有专利
快科技7月13日消息,昨天下午,荣耀Magic V3系列正式发布,搭载全新荣耀视力舒缓绿洲护眼屏,开创性的引入AI主动式护眼技术
2024-07-13 19:44:00
安卓标杆机皇!谷歌Pixel 9系列真机泄露:顶配售价过万
快科技7月13日消息,谷歌将于8月13日推出Pixel 9系列新品,这次谷歌将同时发布Pixel 9、Pixel 9 Pro
2024-07-13 19:44:00
吃惊自己有很多中国粉丝!三上悠亚的真人影游发售:你要支持吗
7月13日消息,真人影游《我为情狂》今日正式发售,首发折扣价61.20元。《我为情狂》是根据著名都市传说“三上悠亚结婚隐退事件”改编而成的互动影游
2024-07-13 19:44:00
沈腾马丽十年之约:沈马组合新电影《抓娃娃》猫眼映前评分9.5分
7月13日消息,据媒体报道,2014年,沈腾、马丽主演的电影《夏洛特烦恼》杀青,这部电影于2015年9月上映。时隔10年
2024-07-13 20:14:00
只需一个耳机 盲人也能在电影院看电影了
快科技7月13日消息,盲人如何看电影,答案是加一个解说。今天沈腾、马丽领衔主演的电影《抓娃娃》点映,有些影院有一副专门的耳机
2024-07-13 20:44:00
全球移居目的地排名:阿联酋跻身前10科威特垫底 沙特就业满意度领先
7月13日消息,最新发布的全球移居目的地调查报告(Expat Insider 2024)显示,阿联酋是中东地区唯一一个跻身综合排名前十的国家
2024-07-13 21:14:00
七彩虹原创IP桌宠 柒小希首次线下曝光:能与玩家互动
快科技7月13日消息,在Bilibili World展会上,作为七彩虹原创IP桌宠,柒小希首次线下曝光。它是七彩虹中控软件iGame Center的智能桌面管家
2024-07-13 21:44:00
华为智驾要上20万以下车!纯视觉、激光雷达之争不断 你偏爱谁
快科技7月13日消息,华为已经表示,自家乾崑智驾将首次出现在20万元以下汽车上,而这也引发了网友的热议。智能驾驶这个赛道上
2024-07-13 21:44:00
米粉问Redmi K70至尊版2799元起吗 卢伟冰:配置很猛 成本大幅度上涨
快科技7月13日消息,今天,有米粉问卢伟冰:Redmi K70至尊版总不至于是2799起吧?卢伟冰回复,调较给力,配置很猛
2024-07-13 21:44:00