• 我的订阅
  • 头条热搜
大幅减缓幻觉 百融云创大模型精度测评结果出炉
近日,百融云创大模型参加一场“考试”,并取得了行业领先的成绩,多项指标优于ChatGPT3.5。随着各类大模型的相继问世,如何去评估大模型的性能变得越来越重要。百融云创参加的这场“考试”名叫检索增强生成基准测评,...……更多
深挖大模型幻觉!哈佛大学最新报告:LLM等价于众包,只是在输出「网络共识」
...究了大型语言模型在回答晦涩难懂和有争议问题时产生「幻觉」的原因,发现模型输出的准确性高度依赖于训练数据的质量和数量。研究结果指出,大模型在处理有广泛共识的问题时表现较好,但在面对争议性或信息不足的主题...……更多
谷歌苹果曝出LLM惊人内幕,自主识别错误却装糊涂!AI幻觉背后藏着更大秘密
【新智元导读】大模型幻觉,究竟是怎么来的?谷歌、苹果等机构研究人员发现,大模型知道的远比表现的要多。它们能够在内部编码正确答案,却依旧输出了错误内容。到现在为止,我们仍旧对大模型「幻觉」如何、为何产...……更多
幻觉不一定有害,新框架用AI的「幻觉」优化图像分割技术
...在人工智能领域,大型预训练模型(如 GPT 和 LLaVA)的 “幻觉” 现象常被视为一个难以克服的挑战,尤其是在执行精确任务如图像分割时。然而,最新发表于 NeurIPS 2024 的研究《Leveraging Hallucinations to Reduce Manual Prompt D……更多
美国执念抹黑他国 恰似人工智能“幻觉”
“幻觉”,在人工智能领域是一个专业术语,被用于描述机器可能输出“无中生有”的内容。这样的“幻觉”也出现在一些美国政客身上,他们无中生有地污称中国用人工智能技术收集美国人数据。治疗这种“幻觉”,美国一...……更多
容易“幻觉”的大模型与最严肃制造竟双向奔赴了?造船、高端装备已着迷……
...制造,以及化工等流程制造近期也迎来大模型。易产生“幻觉”的大模型,与最不能容忍“一本正经胡说八道”的工业,何以双向奔赴?何以胜任工业是AI大模型应用真正的主战场。传统AI对制造中的缺陷检测、维修预测等场景...……更多
蚂蚁自研知识增强大模型服务框架KAG,可显著提升知识推理准确率
...在实际应用中,比如政务和医疗问答场景,取得了显著的精度提升,表明其在专业决策中的有效性。5) KAG 模型:定义 LLMs 与 KGs 之间的协同任务KAG 模型旨在降低大型语言模型(LLMs)与知识图谱(KGs)结合的成本,利用指令合...……更多
微软GenAI开发被曝遭遇瓶颈,转攻AI安全推出「抗幻觉神器」
...推出了一项在Azure AI上的新服务——「校正」:人工智能幻觉的纠正工具现阶段阻碍生成式人工智能在现实中更广泛地应用落地的最大缺陷,就是「幻觉」(hallucinations)。幻觉是指缺乏基础数据支持的内容的生成,输出误导性...……更多
生成式AI“卷”应用层,但仍受困于高成本、幻觉和低留存率
...峰发现,生成式AI应用的落地依旧面临高昂成本、大模型幻觉和用户留存率低的三大难题。7月6日,周志峰在2024世界人工智能大会一场创投论坛上分析说,去年同期每百万token的基座大模型API调用成本,还处于120美元左右,而今...……更多
李彦宏:大模型已基本解决幻觉问题 发布两大“超级有用”AI技术
...24个月,AI行业的最大变化是什么?是大模型基本消除了幻觉。”11月12日,百度创始人李彦宏在百度世界2024大会上,发表了主题为《应用来了》的演讲,发布两大赋能应用的AI技术:检索增强的文生图技术(iRAG)和无代码工具“...……更多
清华大学教授李宗鹏:大模型消除不了幻觉,大语言模型注定没有希望
...财经的采访)作者|王迪百度李彦宏称大模型基本消除了幻觉,AI从一本正经胡说八道变得可被信赖。清华大学李宗鹏在接受凤凰网财经采访时则指出,大模型永远不会彻底摆脱幻觉和出错的问题,这是数学上已经证明的。“AI代...……更多
依托数据、平台、知识增强等优势 夸克大模型降低问答幻觉率
...性。在医疗健康领域,夸克大模型已经可以将问答内容的幻觉率降低至5%。夸克推进搜索革新,自研大模型打造技术新底座在互联网高速发展的30余年中,搜索曾经高效地满足了用户主动获取信息的需求。基于大模型的AIGC技术将...……更多
GPT-4批评GPT-4实现「自我提升」!OpenAI前超级对齐团队又一力作被公开
...前插入的特定bug,即CBI(critique-bug inclusion)有没有出现幻觉或者挑剔现象,指出了不存在的问题对整体有用性的主观评级,包含上述内容并考虑风格和整体的实用性在训练CriticGPT的过程中,除了RLHF方法,团队将奖励模型与搜索...……更多
鄂维南院士领衔新作:大模型不止有RAG、参数存储,还有第3种记忆
...更快的推理速度; 此外,Memory3 提高了事实性并减轻了幻觉,并能够快速适应专业任务。方法介绍记忆电路理论有助于确定哪些知识可以存储为显式记忆,以及哪种模型架构适合读取和写入显式记忆。研究者将输入输出关系作...……更多
...。中兴通讯总裁徐子阳认为,行业大模型的一大问题就是幻觉。他指出,AI如果作为助手没问题,但如果把AI当成一名雇员,它就不能犯错。他指出,对于工业等场景,AI应用的门槛比较高,企业也在探索新路径解决幻觉问题。上...……更多
AI 胡说八道怎么办?牛津大学开发了一种“测谎”方法
...方法,下面咱们就详细聊聊。大模型的胡说八道和风险“幻觉”(Hallucinations)是大语言模型(例如 ChatGPT、Gemini、或文心一言)面临的一个关键问题,也是网络上常见的用户体验吐槽类型之一,这个术语可以粗略地理解为 AI 一...……更多
...融入到科学思想的碰撞中。” 近未来型脑洞:“大模型幻觉”何解大模型是当下正火的AI概念。但大模型普遍存在“一本正经地胡说八道”的现象,这被称为“大模型幻觉”。在知乎上就有这样一个问题:当大模型幻觉完全消...……更多
微软研究人员正在测试其他ai模型
...种旨在让模型捏造信息的测试。为了治好这种被称为“AI幻觉”的症状,他们设定了一个会让大多数人头疼的文本检索任务,然后跟踪并改进模型响应,这也是微软在测定、检测和缓解AI幻觉方面的一个例子。微软AI负责项目的首...……更多
人工智能为了游戏获胜会“说谎”
...理论作修订AI“一本正经地胡说八道”这种现象被称为AI幻觉。AI幻觉指的是AI会生成貌似合理连贯,但同输入问题意图不一致、同世界知识不一致、与现实或已知数据不符合或无法验证的内容。人工智能是否会“说谎”,以及最...……更多
...。尽管大模型是划时代的技术突破,但现阶段并不完美,幻觉、时效性差、缺乏专业领域知识等问题,是其落地千行百业必须要面对的挑战。百川智能CEO王小川说,搜索增强是大模型落地应用的关键,能够有效解决幻觉、时效性...……更多
Apple Intelligence提示词原来是这样,还告诉大模型:别幻觉
...人将选择这些问题的答案,这将有助于减少撰写回复时的幻觉。请输出最佳问题及每个问题的可能答案 / 选项。不要问回复片段中已经回答的问题。问题应简短,不超过 8 个字。答案也应简短,约 2 个字。请以 JSON 格式输出,包...……更多
迎着应用爆发的曙光,百度将推出新版文心大模型
...在百度世界上刚刚发布的iRAG技术,极大解决了文生图的幻觉问题,提升图片生产力。检索增强(RAG)已经是大模型行业的共识,过去24个月,李彦宏认为,对行业而言最大的变化是大模型基本消除了幻觉,回答问题的准确性大大...……更多
AI搜索的知乎方案,以专业答主和优质语料减少AI幻觉
...可以观察到用户行为发生了显著变化,其中困扰行业的AI幻觉成为了用户痛点。对此知乎直答发挥了知乎高质量中文语料的优势,依靠大量专业答主的可信内容给出了社区解决方案。(知乎直答产品负责人 马奎)2024年以来,AI搜...……更多
9.11比9.9大?多个大模型翻车!业内人士:就是偏科,文科强理科弱
...示。这类大模型说胡话的现象,在业界被称为大模型出现幻觉。此前,哈尔滨工业大学和华为的研究团队发表的综述论文认为,模型产生幻觉的三大来源:数据源、训练过程和推理。大模型可能会过度依赖训练数据中的一些模式...……更多
不能简单地将AI幻觉“一棒子打死”
...电子报北京大学计算机学院教授黄铁军:不能简单地将AI幻觉“一棒子打死”4月28日,北京大学计算机学院教授、北京智源人工智能研究院理事长黄铁军在第十七届中国电子信息年会上发表演讲时表示,“幻觉”是人工智能创造...……更多
朱啸虎:AI的赚钱风向,彻底变了!
...不容易。为什么AIGC很难落地?最主要就两个问题:一是幻觉问题;二是结果不可控。一旦AI有幻觉就会出错,而且你不知道什么时候会出错,每次结果还都不一样,所以结果不可控。随着大家对幻觉的研究越来越多,发现造成幻...……更多
国内首个!中关村科金发布企业知识大模型
...判断三个层面,在他看来,目前大模型最为人诟病的是有幻觉问题,对低频常理的事实回答得不好,经常被人们认为一本正经的胡说八道,但可以通过一些其他的手段解决。比如,外挂一些知识库或者符号推进引擎,解决事实判...……更多
2023金融大模型报告|智能交易:求解知易行难
...。这包括但不限于建立合适的模型评估机制、提高模型的精度和可解释性、加强数据的安全性和合规性等。北京商报记者 宋亦桐 ……更多
百度李彦宏:一个只靠想法赚钱的时代来了
...24个月,AI行业的最大变化是什么?是大模型基本消除了幻觉。”现场,他发布两大赋能应用的AI技术:检索增强的文生图技术(iRAG)和无代码工具“秒哒”。文心iRAG用于解决大模型在图片生成上的幻觉问题,极大提升实用性;...……更多
大模型像“文科生”?业内人士在沪“论战”
...技术负责人张涛则认为,大模型在做辅助工作,并且有“幻觉”(看似合理但实际错误的现象)等缺点。但他认为,人无完人,知识非常渊博的人也会有盲区,要求大模型做一个完美助手,是不太现实的。RWKV元始智能COO罗璇认为,...……更多
更多关于科技的资讯:
一大波RTX 50游戏本集体登场!多了个“Ti”
快科技1月7日消息,RTX 50系列终于登场了,不过大家的关注普遍都在桌面卡上,其实用于移动版RTX 50系列也同步更新了
2025-01-08 02:48:00
仅迷你机大小!NVIDIA发布全球最小AI超级计算机:联发科参与
快科技1月7日消息,除了万众焦点的RTX 50系列桌面和笔记本显卡,NVIDIA还带来了一款特殊的整机产品,代号“Project DIGITS”的新一代个人AI超级计算机
2025-01-08 03:18:00
本文转自:人民日报海外版《人民日报海外版》(2025年01月08日第 10 版)随着人工智能、大数据、云计算等技术的快速发展
2025-01-08 05:20:00
新型产业学院打造本土人才库
本文转自:人民日报海外版本报记者 周姝芸《人民日报海外版》(2025年01月08日第 10 版)杭海龙渡湖国际时尚产业学院学生在岗位工作室设计作品
2025-01-08 05:25:00
本文转自:人民日报喻思南《人民日报》(2025年01月08日第 05 版)我国市场容量大,一旦新材料赢得市场认可,就可以获得广泛应用和广阔销路
2025-01-08 06:03:00
本文转自:人民日报《人民日报》(2025年01月08日第 04 版)新华社北京1月7日电 (记者张晓洁、张辛欣)工业和信息化部7日发布关于开展万兆光网试点工作的通知
2025-01-08 06:05:00
鹿每年都要耗尽资源长角 为何用一次就脱落
这是一头驼鹿努力脱落鹿角的样子!您可能好奇,好不容易长这么大的鹿角为什么要脱落?鹿角其实是自然界最独特的动物角。对于其它动物而言
2025-01-08 06:48:00
联想ThinkPad X9发布:重量、续航超越MacBook Air
快科技1月8日消息,在CES2025上,联想发布了全新的高端商务笔记本——ThinkPad X9 Aura系列,包括14英寸与15英寸
2025-01-08 07:18:00
370家餐厅、57种菜系入选2025黑珍珠餐厅指南杭州日报讯 1月6日,聚拢了中国高品质标杆餐饮品牌的“黑珍珠餐厅指南”(以下简称“黑珍珠”)第8年发布榜单
2025-01-08 07:07:00
98%全球最高屏占比PC!联想发布YOGA Air X AI元启版:首发屏下摄像头
快科技1月8日消息,在国际消费电子展(CES 2025)上,联想发布了最新一代的高端轻薄本产品——YOGA Air X AI元启版
2025-01-08 07:18:00
本文转自:环球时报近日,某短视频平台发布公告,表示要推动算法和平台治理透明化,引发网民热议。其中,有人指出,该平台上称“钱”为“米”
2025-01-08 06:52:00
保时捷女销冠回应连续2年卖出170台:数据真实 我一天最多卖出4台
快科技1月8日消息,近日,2023年卖170台保时捷的女销冠再次晒出自己的2024年战绩,称在2024年12月31日下午完成最后一台签订完成170台
2025-01-08 07:18:00
搭载RTX 5090显卡 联想新一代游戏本亮相:性能爆炸
快科技1月8日消息,在CES2025盛会上,联想全新推出搭载英伟达RTX 5090显卡的游戏本——Legion Pro 7i
2025-01-08 07:18:00
杭州日报讯 日前,“中国视谷”重大产业项目签约仪式上,云豹智能AI网络研发中心总部项目正式落户“中国视谷”窗口园区。令人瞩目的是
2025-01-08 07:06:00
小米手机冲至国内第二 雷军:小米15和REDMI K80太畅销
快科技1月8日消息,根据权威市场调研机构的最新数据,2024年第四季度小米新机激活量达到了1243.22万台,市场份额为17
2025-01-08 07:18:00