• 我的订阅
  • 头条热搜
大幅减缓幻觉 百融云创大模型精度测评结果出炉
近日,百融云创大模型参加一场“考试”,并取得了行业领先的成绩,多项指标优于ChatGPT3.5。随着各类大模型的相继问世,如何去评估大模型的性能变得越来越重要。百融云创参加的这场“考试”名叫检索增强生成基准测评,...……更多
深挖大模型幻觉!哈佛大学最新报告:LLM等价于众包,只是在输出「网络共识」
...究了大型语言模型在回答晦涩难懂和有争议问题时产生「幻觉」的原因,发现模型输出的准确性高度依赖于训练数据的质量和数量。研究结果指出,大模型在处理有广泛共识的问题时表现较好,但在面对争议性或信息不足的主题...……更多
谷歌苹果曝出LLM惊人内幕,自主识别错误却装糊涂!AI幻觉背后藏着更大秘密
【新智元导读】大模型幻觉,究竟是怎么来的?谷歌、苹果等机构研究人员发现,大模型知道的远比表现的要多。它们能够在内部编码正确答案,却依旧输出了错误内容。到现在为止,我们仍旧对大模型「幻觉」如何、为何产...……更多
幻觉不一定有害,新框架用AI的「幻觉」优化图像分割技术
...在人工智能领域,大型预训练模型(如 GPT 和 LLaVA)的 “幻觉” 现象常被视为一个难以克服的挑战,尤其是在执行精确任务如图像分割时。然而,最新发表于 NeurIPS 2024 的研究《Leveraging Hallucinations to Reduce Manual Prompt D……更多
美国执念抹黑他国 恰似人工智能“幻觉”
“幻觉”,在人工智能领域是一个专业术语,被用于描述机器可能输出“无中生有”的内容。这样的“幻觉”也出现在一些美国政客身上,他们无中生有地污称中国用人工智能技术收集美国人数据。治疗这种“幻觉”,美国一...……更多
容易“幻觉”的大模型与最严肃制造竟双向奔赴了?造船、高端装备已着迷……
...制造,以及化工等流程制造近期也迎来大模型。易产生“幻觉”的大模型,与最不能容忍“一本正经胡说八道”的工业,何以双向奔赴?何以胜任工业是AI大模型应用真正的主战场。传统AI对制造中的缺陷检测、维修预测等场景...……更多
蚂蚁自研知识增强大模型服务框架KAG,可显著提升知识推理准确率
...在实际应用中,比如政务和医疗问答场景,取得了显著的精度提升,表明其在专业决策中的有效性。5) KAG 模型:定义 LLMs 与 KGs 之间的协同任务KAG 模型旨在降低大型语言模型(LLMs)与知识图谱(KGs)结合的成本,利用指令合...……更多
微软GenAI开发被曝遭遇瓶颈,转攻AI安全推出「抗幻觉神器」
...推出了一项在Azure AI上的新服务——「校正」:人工智能幻觉的纠正工具现阶段阻碍生成式人工智能在现实中更广泛地应用落地的最大缺陷,就是「幻觉」(hallucinations)。幻觉是指缺乏基础数据支持的内容的生成,输出误导性...……更多
生成式AI“卷”应用层,但仍受困于高成本、幻觉和低留存率
...峰发现,生成式AI应用的落地依旧面临高昂成本、大模型幻觉和用户留存率低的三大难题。7月6日,周志峰在2024世界人工智能大会一场创投论坛上分析说,去年同期每百万token的基座大模型API调用成本,还处于120美元左右,而今...……更多
李彦宏:大模型已基本解决幻觉问题 发布两大“超级有用”AI技术
...24个月,AI行业的最大变化是什么?是大模型基本消除了幻觉。”11月12日,百度创始人李彦宏在百度世界2024大会上,发表了主题为《应用来了》的演讲,发布两大赋能应用的AI技术:检索增强的文生图技术(iRAG)和无代码工具“...……更多
清华大学教授李宗鹏:大模型消除不了幻觉,大语言模型注定没有希望
...财经的采访)作者|王迪百度李彦宏称大模型基本消除了幻觉,AI从一本正经胡说八道变得可被信赖。清华大学李宗鹏在接受凤凰网财经采访时则指出,大模型永远不会彻底摆脱幻觉和出错的问题,这是数学上已经证明的。“AI代...……更多
依托数据、平台、知识增强等优势 夸克大模型降低问答幻觉率
...性。在医疗健康领域,夸克大模型已经可以将问答内容的幻觉率降低至5%。夸克推进搜索革新,自研大模型打造技术新底座在互联网高速发展的30余年中,搜索曾经高效地满足了用户主动获取信息的需求。基于大模型的AIGC技术将...……更多
GPT-4批评GPT-4实现「自我提升」!OpenAI前超级对齐团队又一力作被公开
...前插入的特定bug,即CBI(critique-bug inclusion)有没有出现幻觉或者挑剔现象,指出了不存在的问题对整体有用性的主观评级,包含上述内容并考虑风格和整体的实用性在训练CriticGPT的过程中,除了RLHF方法,团队将奖励模型与搜索...……更多
鄂维南院士领衔新作:大模型不止有RAG、参数存储,还有第3种记忆
...更快的推理速度; 此外,Memory3 提高了事实性并减轻了幻觉,并能够快速适应专业任务。方法介绍记忆电路理论有助于确定哪些知识可以存储为显式记忆,以及哪种模型架构适合读取和写入显式记忆。研究者将输入输出关系作...……更多
...。中兴通讯总裁徐子阳认为,行业大模型的一大问题就是幻觉。他指出,AI如果作为助手没问题,但如果把AI当成一名雇员,它就不能犯错。他指出,对于工业等场景,AI应用的门槛比较高,企业也在探索新路径解决幻觉问题。上...……更多
AI 胡说八道怎么办?牛津大学开发了一种“测谎”方法
...方法,下面咱们就详细聊聊。大模型的胡说八道和风险“幻觉”(Hallucinations)是大语言模型(例如 ChatGPT、Gemini、或文心一言)面临的一个关键问题,也是网络上常见的用户体验吐槽类型之一,这个术语可以粗略地理解为 AI 一...……更多
...融入到科学思想的碰撞中。” 近未来型脑洞:“大模型幻觉”何解大模型是当下正火的AI概念。但大模型普遍存在“一本正经地胡说八道”的现象,这被称为“大模型幻觉”。在知乎上就有这样一个问题:当大模型幻觉完全消...……更多
微软研究人员正在测试其他ai模型
...种旨在让模型捏造信息的测试。为了治好这种被称为“AI幻觉”的症状,他们设定了一个会让大多数人头疼的文本检索任务,然后跟踪并改进模型响应,这也是微软在测定、检测和缓解AI幻觉方面的一个例子。微软AI负责项目的首...……更多
人工智能为了游戏获胜会“说谎”
...理论作修订AI“一本正经地胡说八道”这种现象被称为AI幻觉。AI幻觉指的是AI会生成貌似合理连贯,但同输入问题意图不一致、同世界知识不一致、与现实或已知数据不符合或无法验证的内容。人工智能是否会“说谎”,以及最...……更多
...。尽管大模型是划时代的技术突破,但现阶段并不完美,幻觉、时效性差、缺乏专业领域知识等问题,是其落地千行百业必须要面对的挑战。百川智能CEO王小川说,搜索增强是大模型落地应用的关键,能够有效解决幻觉、时效性...……更多
Apple Intelligence提示词原来是这样,还告诉大模型:别幻觉
...人将选择这些问题的答案,这将有助于减少撰写回复时的幻觉。请输出最佳问题及每个问题的可能答案 / 选项。不要问回复片段中已经回答的问题。问题应简短,不超过 8 个字。答案也应简短,约 2 个字。请以 JSON 格式输出,包...……更多
迎着应用爆发的曙光,百度将推出新版文心大模型
...在百度世界上刚刚发布的iRAG技术,极大解决了文生图的幻觉问题,提升图片生产力。检索增强(RAG)已经是大模型行业的共识,过去24个月,李彦宏认为,对行业而言最大的变化是大模型基本消除了幻觉,回答问题的准确性大大...……更多
AI搜索的知乎方案,以专业答主和优质语料减少AI幻觉
...可以观察到用户行为发生了显著变化,其中困扰行业的AI幻觉成为了用户痛点。对此知乎直答发挥了知乎高质量中文语料的优势,依靠大量专业答主的可信内容给出了社区解决方案。(知乎直答产品负责人 马奎)2024年以来,AI搜...……更多
9.11比9.9大?多个大模型翻车!业内人士:就是偏科,文科强理科弱
...示。这类大模型说胡话的现象,在业界被称为大模型出现幻觉。此前,哈尔滨工业大学和华为的研究团队发表的综述论文认为,模型产生幻觉的三大来源:数据源、训练过程和推理。大模型可能会过度依赖训练数据中的一些模式...……更多
不能简单地将AI幻觉“一棒子打死”
...电子报北京大学计算机学院教授黄铁军:不能简单地将AI幻觉“一棒子打死”4月28日,北京大学计算机学院教授、北京智源人工智能研究院理事长黄铁军在第十七届中国电子信息年会上发表演讲时表示,“幻觉”是人工智能创造...……更多
朱啸虎:AI的赚钱风向,彻底变了!
...不容易。为什么AIGC很难落地?最主要就两个问题:一是幻觉问题;二是结果不可控。一旦AI有幻觉就会出错,而且你不知道什么时候会出错,每次结果还都不一样,所以结果不可控。随着大家对幻觉的研究越来越多,发现造成幻...……更多
国内首个!中关村科金发布企业知识大模型
...判断三个层面,在他看来,目前大模型最为人诟病的是有幻觉问题,对低频常理的事实回答得不好,经常被人们认为一本正经的胡说八道,但可以通过一些其他的手段解决。比如,外挂一些知识库或者符号推进引擎,解决事实判...……更多
2023金融大模型报告|智能交易:求解知易行难
...。这包括但不限于建立合适的模型评估机制、提高模型的精度和可解释性、加强数据的安全性和合规性等。北京商报记者 宋亦桐 ……更多
百度李彦宏:一个只靠想法赚钱的时代来了
...24个月,AI行业的最大变化是什么?是大模型基本消除了幻觉。”现场,他发布两大赋能应用的AI技术:检索增强的文生图技术(iRAG)和无代码工具“秒哒”。文心iRAG用于解决大模型在图片生成上的幻觉问题,极大提升实用性;...……更多
OpenAI「补票」AI 搜索,SearchGPT 没有野心
...人质疑。尽管生成式搜索被认为是未来的搜索模式,但其幻觉问题仍然限制其发展。当地时间 7 月 25 日,OpenAI 宣布推出由 AI 驱动的搜索引擎 SearchGPT,并开启邀请测试,标志着 OpenAI 正式进军搜索引擎市场,直接对打谷歌、Bing...……更多
更多关于科技的资讯:
PCB印制电路板气泡形成原因,造物数科来揭秘
在当今快速发展的电子工业中,PCB(印制电路板)作为电子设备的重要组成部分,其质量和性能直接影响着整个产品的可靠性和稳定性
2025-03-11 17:33:00
大皖新闻讯 最近,海尔集团董事局主席、首席执行官周云杰与雷军在全国两会代表通道同框亮相,意外爆火。与此同时,“海尔被曝要求强制双休”“《海尔兄弟》续集何时推出”引发热议
2025-03-11 17:41:00
三方桩兼容度超99.5%!2025款小鹏G6 5C超充实测:功率满运转
快科技3月11日消息,小鹏汽车对2025款小鹏G6进行了预热,该车型将在3月13日19:00的春季发布会上正式亮相。小鹏汽车表示
2025-03-11 17:49:00
腾讯、阿里都碰壁!梁文锋拒绝投资:不想用DeepSeek赚快钱
快科技3月11日消息,据媒体报道,DeepSeek创始人梁文锋拒绝了通过其大模型赚快钱的投资提议,他表示希望保持对科学研究的专注
2025-03-11 17:49:00
曝比亚迪超充技术下沉:秦L EV将配800V平台、5C超充
快科技3月11日消息,据“汽车像素”报道,为增加纯电车型的竞争力和用户使用体验,比亚迪正集中升级纯电新车的快充能力。比亚迪即将发布的新款秦L EV车型
2025-03-11 17:49:00
苹果为何要给下一代AirPods加摄像头:原因揭开
知名记者Mark Gurman透露,苹果正在积极研发一款搭载摄像头的新一代AirPods Pro耳机,最快有望在今年推出
2025-03-11 17:49:00
500万粉网红滑雪摔骨折:打24颗钉子
3月11日消息,据媒体报道,近日,拥有500多万粉丝的女网红千一更新动态,跟粉丝们展示自己的近况。此前她在滑雪时摔倒,断了4根骨头
2025-03-11 17:49:00
全球手机产量排名:小米稳居国产第一 国补神助攻
快科技3月11日消息,TrendForce集邦咨询今天发布了2024年第四季度全球手机产量报告,本季度全球前六大智能手机品牌合计产量达3
2025-03-11 17:49:00
阿里系进军具身智能和机器人 落地上海浦东
快科技3月11日消息,今天,上海蚂蚁灵波科技有限公司在上海浦东举行揭牌仪式。蚂蚁灵波科技是蚂蚁集团拓展具身智能和机器人业务的主要载体
2025-03-11 17:49:00
大楼荒废湖中影子却“灯火通明” :专家解释神秘倒影成因
快科技3月11日消息,近日一段由网友拍摄的“诡异”视频在网络上流传,引发了不少人关注和争论。上月28日早晨,山东临沂市民孙先生在自家里远眺时发现了奇特的一幕
2025-03-11 17:49:00
\
本文转自:人民网-江西频道南昌市安义县烟草专卖局:"云" 端服务解民忧 双向奔赴暖人心烟雨朦胧的文峰路,零售户李老板站在店门口擦拭额头细汗
2025-03-11 18:02:00
煤矿安全无小事,九测科技酒精检测仪为井口检身系统增添安全保障
众所周知,煤矿作业环境错综复杂,矿工们时常在狭窄、潮湿且光线不足的巷道中从事高强度的体力劳动。在这样的极端条件下,矿工们的身体状况与精神面貌对于保障安全生产具有举足轻重的意义
2025-03-11 18:07:00
贵州智造一分钟里,看见了什么?
一分钟,能做什么?在贵州吉利发动机工厂,42秒完成1台汽车发动机装配;在贵州中航电梯有限责任公司,是1台电梯的全部零部件生产程序的完成
2025-03-11 18:11:00
猫眼被指赤裸裸数据抄袭!回应:已于服务商说明情况
快科技3月11日消息,近日,影视数据平台CMDB在公开发文指出: “猫眼专业版”有些影片的演职人员信息并非来自于影片片尾字幕
2025-03-11 18:19:00
下载速率10047Mbps!华为联手打造湖北省首个联通万兆小区
快科技3月11日消息,近日,湖北联通携手华为在武汉万科高尔夫城市花园成功建成省内首个联通万兆小区,开启湖北省家庭网络“万兆新时代”
2025-03-11 18:19:00