- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...章，让 ChatGPT 如此「自信胡扯」的原因，是 AI 产生了「幻觉」。那么，是什么让 AI 大语言模型产生了「幻觉」，业界又是如何看待 AI 幻觉的？01.ChatGPT「张口就来」「幻觉（Hallucinations）」一词源于人类心理学，人类的幻觉是指...……更多
2023-04-14 18:04:00幻觉,模型,数据,训练,语言,人类
...此前模型相似的局限性，仍然不完全可靠，存在事实性“幻觉”并出现推理错误，可能自信地在其预测中犯错。同时，它的使用价格也更贵，其API价格是Chat-GPT API 使用价格的15-30倍。GPT-4实现多项突破，晋升“考霸”相较GPT-3.5，...……更多
2023-03-15 21:00:00单词,输出,性能,模型,文本,语言
...生成能力、强大的迁移（推广）能力、强大的交互能力和幻觉。强大的语言生成能力可基于上下文和过去的对话，在开领域生成多样性类似人类的连贯文本。强大的迁移能力可以在代理任务上训练一个模型，通过细调适配到感兴...……更多
2024-03-21 09:57:00人工智能,人工,可能性,模型,理论,智能
...标准来看可能质量很低。这可能会导致LLM模型产生更多‘幻觉’ ，而选择偏差表明即使不考虑机器翻译错误，数据质量也可能较低。数据质量对于LLM训练至关重要，其中高质量语料库如书籍和维基百科文章通常会进行多次向上...……更多
2024-02-04 17:00:00陷阱,模型,训练,语言,内容,数据
...很多场景下的能力都不如人类。据称，该模型仍然存在“幻觉”或编造事实的问题，并且在事实方面也不一定总是可靠的，“它倾向于坚持认为它是正确的，即使它错了”。OpenAI 表示，GPT-4 正在努力解决其局限性，例如社会偏...……更多
2023-03-15 15:00:00中表,模型,人类,语言,测试,前辈
...前插入的特定bug，即CBI（critique-bug inclusion）有没有出现幻觉或者挑剔现象，指出了不存在的问题对整体有用性的主观评级，包含上述内容并考虑风格和整体的实用性在训练CriticGPT的过程中，除了RLHF方法，团队将奖励模型与搜索...……更多
2024-07-01 09:23:00力作,批评,团队,模型,人类,训练
...的输出。- 提高精度并处理边缘情况：微调可以用于纠正幻觉或错误，这些错误很难通过prompt和上下文学习来纠正。它还可以增强模型执行新技能或任务的能力，这些技能或任务很难在提示中表达。这个过程可以帮助纠正模型没...……更多
2024-08-27 12:03:00小白,长文,千字,基础,指南,训练
...融入到科学思想的碰撞中。”
近未来型脑洞：“大模型幻觉”何解大模型是当下正火的AI概念。但大模型普遍存在“一本正经地胡说八道”的现象，这被称为“大模型幻觉”。在知乎上就有这样一个问题：当大模型幻觉完全消...……更多
2023-10-27 01:46:00科普,问答,答案,科学,模型,科幻
...性」差距。
还有其他几个原因，例如，RLHF也有助于减少幻觉现象。如果RM是一个足够强大的模型，可以捕捉到LLM的虚构内容，就能通过低奖励来惩罚这种行为，教会模型在不确定时避免冒险使用事实知识。但对幻觉及其令人满...……更多
2024-08-10 13:48:00后腿,秘方,人类,奖励,模型,学习
...许多已知的局限性，我们正在努力解决，比如社会偏见、幻觉和对抗性提示。”OpenAI透露，摩根士丹利正在使用GPT-4来组织数据，而电子支付公司Stripe正在测试GPT-4是否有助于打击欺诈。其他客户还包括语言学习公司Duolingo、Khan A...……更多
2023-03-15 23:00:00中超,可在,人类,考试,模型,公司
...的问题。”还有人会担心大模型的上下文长度限制以及“幻觉”问题，会对机器人行为产生影响。对此，刘智勇认为：“通过TokenLearner（一种视觉表征学习方法）来优化输入数据，可以解除上下文窗口限制。而幻觉问题可以用sel...……更多
2024-03-18 10:00:00机器人,机器,梦想,机器人,机器,模型
...了空间感知的负样本挖掘，进一步提高了模型的健壮性。幻觉问题团队也观察到了多模态大模型在回答是 / 否类问题时，往往表现出产生“幻觉”。对此，团队通过图像条件类别定位以及语义条件类别定位两种方式进行负样本挖...……更多
2023-12-26 14:06:00模型,生态,模态,零碎,苹果,模型
...理论作修订AI“一本正经地胡说八道”这种现象被称为AI幻觉。AI幻觉指的是AI会生成貌似合理连贯，但同输入问题意图不一致、同世界知识不一致、与现实或已知数据不符合或无法验证的内容。人工智能是否会“说谎”，以及最...……更多
2024-05-14 04:02:00人工智能,人工,智能,人工智能,模型,人工
...分器训练可提供一致性，但也存在风险，包括强化偏见和幻觉。此外，它可能违反专有LLM服务的使用条款，条款禁止使用其模型的输出来开发竞争模型。为了解决这些限制和显著降低成本，谷歌引入了一个用于自动评分的大型基...……更多
2024-08-05 09:37:00准确率,模型,评估,评估,模型,数据
...提供更多选择。
一家主要保险公司将提供专门的AI风险幻觉保险：genAI对幻觉或错误的倾向改变了风险管理和复杂风险转移策略的计算方式。尽管保险公司一直在努力弥补涉及AI幻觉的保险漏洞，但鉴于genAI的预期增长，先锋保...……更多
2023-12-01 15:02:00模型,顶级,产品,公司,模型,人工智能
...工作。“要想实现大模型在产业的进一步落地，准确性和幻觉问题是不可回避的挑战。”百融云创AI创新负责人表示。大模型想要精准，前置的数据处理环节非常重要。在这一环节，百融云创打造了智能版面识别系统。很多企业...……更多
2024-04-26 13:16:00中国,落地,生成,模型,大会,应用
...界第一个支持流式输出;在同等智能级别,输出最快;在减少幻觉、应对困难开放型问题上,准确度是ClaudeAI2.1的两倍;更好的开箱即用体验,无需过多优化提示词,拒绝率更低。ClaudeAI3推出了三个模型High(最快)、Sona(性能与功能平衡)、Opu...……更多
2024-04-11 16:48:00生成,时代,陈晓,亚马,生成,亚马逊
...许多已知的局限性，我们正在努力解决，比如社会偏见、幻觉和对抗性提示。”总的来说，GPT-4相对于以前的模型（经过多次迭代和改进）已经显著减轻了幻觉问题。在OpenAI的内部对抗性真实性评估中，GPT-4的得分比最新的GPT-3.5...……更多
2023-03-15 23:12:00模型,版本,模型,训练,公司,中国
...”搭载了文本向量化模型，以解决大模型“已读乱回”的幻觉问题。合合信息的思路是，从“炼丹”源头的燃料出发，通过标准化平台进行语料结构化，提高数据预训练效率，帮助大模型厂商达成有效的模型性能提升和迭代。处...……更多
2024-07-30 00:59:00八道,模型,原料,观察,产品,公司
...更快的推理速度；
此外，Memory3 提高了事实性并减轻了幻觉，并能够快速适应专业任务。方法介绍记忆电路理论有助于确定哪些知识可以存储为显式记忆，以及哪种模型架构适合读取和写入显式记忆。研究者将输入输出关系作...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...像，处理更大的文本块。对于AI聊天机器人此前暴露出的幻觉、偏见等缺陷，GPT-4也有所改进。但专家指出，这并不意味着这些缺陷已被修复，GPT-4仍会做错最基础的算术题。另据介绍，和ChatGPT不同，使用GPT-4需每月支付20美元的...……更多
2023-03-16 09:21:00纽约,机器人,纽约时报,文本,意味,机器
...方法，下面咱们就详细聊聊。大模型的胡说八道和风险“幻觉”（Hallucinations）是大语言模型（例如 ChatGPT、Gemini、或文心一言）面临的一个关键问题，也是网络上常见的用户体验吐槽类型之一，这个术语可以粗略地理解为 AI 一...……更多
2024-07-01 11:40:00牛津大学,八道,牛津,怎么办,方法,开发
...署一个机器学习模型。LLM的另一个重大问题是容易产生“幻觉”——即模型生成的输出看似合理，但实际上并不正确。这是由于LLM的训练方式是根据数据中的模式预测下一个最可能的单词，而非真正理解信息。因此，LLM可能会自...……更多
2024-08-26 14:17:00模型,英伟,微软,模型,训练,性能
...senseQA、MATH、HANS和BIG-bench）上的表现，也不在于消除LLM的幻觉，而是试图理解LLM在处理这些任务时所展现的深层次结构，如启发式方法或创造力。然而，对于LLM是否具有心理特性，研究者间存在分歧。一方面，有些研究者较为保...……更多
2024-02-09 15:00:00心理学,模型,语言,心理,人类,心理
...电子报北京大学计算机学院教授黄铁军：不能简单地将AI幻觉“一棒子打死”4月28日，北京大学计算机学院教授、北京智源人工智能研究院理事长黄铁军在第十七届中国电子信息年会上发表演讲时表示，“幻觉”是人工智能创造...……更多
2024-05-07 09:47:00棒子,幻觉,人工智能,智能,人工,人类
...新月异，但也存在一些难题，比如 AI 模型有时会出现“幻觉”，即说出错误的事实、涉及有害的话题或导致安全风险。为了解决这个问题，英伟达在周二发布了一款新的软件，名为 NeMo Guardrails，可以帮助软件开发者给 AI 模型设...……更多
2023-04-26 10:44:00八道,英伟,护栏,机器人,机器,软件
...波瓣（即孟加拉虎数量过剩），或者至少降低这个概率。幻觉：特性还是错误？当大型语言模型输出的单词序列不符合现实真相时，我们说该模型是产生了“幻觉”。目前，我们有一套方法可以帮助我们塑造大型语言模型输出的...……更多
2023-03-15 05:00:00保姆,原理,模型,令牌,概率,输出
...当我们惊叹于大语言模型竟然能够流畅地与我们对话时，幻觉问题让大模型们时不时“胡言乱语”或“答非所问”的情况也让实际的使用体验大打折扣。而这种问题并不仅仅存在于大语言模型领域，在AI扩图和AI视频生成中也屡...……更多
2023-12-22 19:48:00世界,模型,开发,模型,世界,生成
...，医疗、金融等强监管行业对可靠性要求极高，不只是“幻觉”，还有金融的合规性、每个行业的价值主张。如果这3个问题不解决，大模型在严谨产业里落地时潜力就无法发挥。具体到医疗领域，科大讯飞董事长刘庆峰向澎湃...……更多
2023-12-05 09:45:00瓦特,模型,时刻,应用,模型,应用
...语料进行训练。星辰语义大模型在业界首次提出缓解多轮幻觉的解决方案，通过关键信息注意力增强、知识图谱强化、多轮知识强化、知识溯源能力四大技术，将AI大模型的幻觉率降低了40%，有助于大模型变得更有“人味”，理...……更多
2024-01-14 09:52:00中国电信,语义,中国,星辰,清洗,模型
更多关于科技的资讯：
在“十四五”规划蓝图指引下，我国能源领域正加速迈向绿色低碳与数字化转型的新征程。“十四五”规划明确提出，要建立健全油气行业技能人才制度体系
2024-09-03 10:45:00
IOTE2024第二十二届国际物联网展·深圳站(简称：深圳物联网展、深圳物联网博览会)于2024年8月28-30日在深圳国际会展中心(宝安)盛大开展
2024-09-03 10:45:00
LED电源作为电源品类的一支，如今在电源市场上占据着一大块的位置，其亮度高、低功耗、寿命长、启动快，功率小、无频闪、不容易产生视觉疲劳等优点使之成为消费者的选择
2024-09-03 10:48:00
开关电源是开关稳压电源的简称，一般指输入为交流电压、输出为直流电压的AC(交流电)-DC(直流电)交换器。开关电源内部的功率开关管工作在高频开关状态
2024-09-03 10:50:00
8月28日-30日，由国家数据局主办，贵州省人民政府承办的2024中国国际大数据产业博览会（简称数博会）在贵阳举办。作为数据库领域国家队
2024-09-03 11:00:00
大皖新闻讯 日前，科大讯飞星火极速超拟人交互技术正式上线讯飞星火APP，率先面向全民开放体验。据了解，这是国内首个对标GPT-4o语音的大模型产品
2024-09-03 11:00:00
从没学过量子算法，首次相关工作就证明量子物理难题！MIT计算机科学家，利用数学方法发现，当温度到达一定值后，热量导致量子纠缠完全消失
2024-09-03 11:49:00
一笔近5个亿新融资，投向AI大模型领域。量子位独家获悉，清华系AI创业公司无问芯穹完成了近5亿元A轮融资。加码的股东阵容很全
2024-09-03 11:49:00
被数字城市风口带飞！UWB芯片的新蓝海被这家创企找到了。这是你畅想的数字城市未来生活吗？智能调度道路交通设施，丝滑应对城市交通错峰问题
2024-09-03 11:50:00
最新行业动态显示，台积电正准备在秋季之际，也就是九月，启动其标志性的CyberShuttle服务的最新一环。所谓的CyberShuttle
2024-09-03 14:02:00
9月1日，“温暖的世界”华为影像XMAGE全球巡展在上海浦东美术馆落地。同时，华为特地打造了一场nova Flip手机影像大咖秀的直播活动
2024-09-03 14:02:00
9月3日，华为官方发布预告视频，并配文“非凡臻品，再启华章。华为 Mate XT非凡大师即将登场！”预告视频中，一闪而过“3”这一数字
2024-09-03 14:02:00
还有一个多星期的时间，苹果就要召开2024年度的秋季新品发布会，带来全新的iPhone 16系列。然而此时却有一些媒体透露
2024-09-03 14:04:00
9 月 3 日消息，作为一项各国都在探索的前沿技术，脑机接口（BMI）对于帮助严重运动障碍患者恢复沟通和身体控制能力有望带来更具开创性的解决方案
2024-09-03 14:05:00