- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...章，让 ChatGPT 如此「自信胡扯」的原因，是 AI 产生了「幻觉」。那么，是什么让 AI 大语言模型产生了「幻觉」，业界又是如何看待 AI 幻觉的？01.ChatGPT「张口就来」「幻觉（Hallucinations）」一词源于人类心理学，人类的幻觉是指...……更多
2023-04-14 18:04:00幻觉,模型,数据,训练,语言,人类
...究了大型语言模型在回答晦涩难懂和有争议问题时产生「幻觉」的原因，发现模型输出的准确性高度依赖于训练数据的质量和数量。研究结果指出，大模型在处理有广泛共识的问题时表现较好，但在面对争议性或信息不足的主题...……更多
2024-10-26 09:51:00哈佛大学,哈佛,等价,共识,幻觉,输出
...此前模型相似的局限性，仍然不完全可靠，存在事实性“幻觉”并出现推理错误，可能自信地在其预测中犯错。同时，它的使用价格也更贵，其API价格是Chat-GPT API 使用价格的15-30倍。GPT-4实现多项突破，晋升“考霸”相较GPT-3.5，...……更多
2023-03-15 21:00:00单词,输出,性能,模型,文本,语言
...生成能力、强大的迁移（推广）能力、强大的交互能力和幻觉。强大的语言生成能力可基于上下文和过去的对话，在开领域生成多样性类似人类的连贯文本。强大的迁移能力可以在代理任务上训练一个模型，通过细调适配到感兴...……更多
2024-03-21 09:57:00人工智能,人工,可能性,模型,理论,智能
...能能力的新水平。”OpenAI表示。
强化学习+思维链加持，幻觉依然无法彻底解决o1模型更强的推理能力得益于OpenAI开发了一种创新的大规模强化学习算法。这种算法不仅能高效利用数据，还能有效训练模型运用思维链进行推理思...……更多
2024-09-13 16:44:00复旦,相关性,概率,推理,模型,教授
...标准来看可能质量很低。这可能会导致LLM模型产生更多‘幻觉’ ，而选择偏差表明即使不考虑机器翻译错误，数据质量也可能较低。数据质量对于LLM训练至关重要，其中高质量语料库如书籍和维基百科文章通常会进行多次向上...……更多
2024-02-04 17:00:00陷阱,模型,训练,语言,内容,数据
...很多场景下的能力都不如人类。据称，该模型仍然存在“幻觉”或编造事实的问题，并且在事实方面也不一定总是可靠的，“它倾向于坚持认为它是正确的，即使它错了”。OpenAI 表示，GPT-4 正在努力解决其局限性，例如社会偏...……更多
2023-03-15 15:00:00中表,模型,人类,语言,测试,前辈
...前插入的特定bug，即CBI（critique-bug inclusion）有没有出现幻觉或者挑剔现象，指出了不存在的问题对整体有用性的主观评级，包含上述内容并考虑风格和整体的实用性在训练CriticGPT的过程中，除了RLHF方法，团队将奖励模型与搜索...……更多
2024-07-01 09:23:00力作,批评,团队,模型,人类,训练
...安全性越高。借助新的训练方法，o1模型会更加准确，AI幻觉问题减少，但依然存在，而且通过对上下文的关联分析，获得了更高的“越狱测试”分值。
而且在绝大多数这些推理密集型任务中，比如数学计算、代码编程，以及测...……更多
2024-09-18 15:01:00逻辑推理,重磅,推理,逻辑,模型,能力
...的输出。- 提高精度并处理边缘情况：微调可以用于纠正幻觉或错误，这些错误很难通过prompt和上下文学习来纠正。它还可以增强模型执行新技能或任务的能力，这些技能或任务很难在提示中表达。这个过程可以帮助纠正模型没...……更多
2024-08-27 12:03:00小白,长文,千字,基础,指南,训练
...融入到科学思想的碰撞中。”
近未来型脑洞：“大模型幻觉”何解大模型是当下正火的AI概念。但大模型普遍存在“一本正经地胡说八道”的现象，这被称为“大模型幻觉”。在知乎上就有这样一个问题：当大模型幻觉完全消...……更多
2023-10-27 01:46:00科普,问答,答案,科学,模型,科幻
...性」差距。
还有其他几个原因，例如，RLHF也有助于减少幻觉现象。如果RM是一个足够强大的模型，可以捕捉到LLM的虚构内容，就能通过低奖励来惩罚这种行为，教会模型在不确定时避免冒险使用事实知识。但对幻觉及其令人满...……更多
2024-08-10 13:48:00后腿,秘方,人类,奖励,模型,学习
...许多已知的局限性，我们正在努力解决，比如社会偏见、幻觉和对抗性提示。”OpenAI透露，摩根士丹利正在使用GPT-4来组织数据，而电子支付公司Stripe正在测试GPT-4是否有助于打击欺诈。其他客户还包括语言学习公司Duolingo、Khan A...……更多
2023-03-15 23:00:00中超,可在,人类,考试,模型,公司
...的问题。”还有人会担心大模型的上下文长度限制以及“幻觉”问题，会对机器人行为产生影响。对此，刘智勇认为：“通过TokenLearner（一种视觉表征学习方法）来优化输入数据，可以解除上下文窗口限制。而幻觉问题可以用sel...……更多
2024-03-18 10:00:00机器人,机器,梦想,机器人,机器,模型
...了空间感知的负样本挖掘，进一步提高了模型的健壮性。幻觉问题团队也观察到了多模态大模型在回答是 / 否类问题时，往往表现出产生“幻觉”。对此，团队通过图像条件类别定位以及语义条件类别定位两种方式进行负样本挖...……更多
2023-12-26 14:06:00模型,生态,模态,零碎,苹果,模型
...理论作修订AI“一本正经地胡说八道”这种现象被称为AI幻觉。AI幻觉指的是AI会生成貌似合理连贯，但同输入问题意图不一致、同世界知识不一致、与现实或已知数据不符合或无法验证的内容。人工智能是否会“说谎”，以及最...……更多
2024-05-14 04:02:00人工智能,人工,智能,人工智能,模型,人工
...的回答。因此碰到问题与场景无关时，模型也更容易出现幻觉。这种模型有可能只是记住了正样本对，而非真正地理解被问及的场景、物体、以及具体的指令。
2. 由于在造数据的过程中，人类标注员或者生成式大语言模型是按...……更多
2024-10-16 13:35:00模型,场景,训练,语言,数据,物体
...提供更多选择。
一家主要保险公司将提供专门的AI风险幻觉保险：genAI对幻觉或错误的倾向改变了风险管理和复杂风险转移策略的计算方式。尽管保险公司一直在努力弥补涉及AI幻觉的保险漏洞，但鉴于genAI的预期增长，先锋保...……更多
2023-12-01 15:02:00模型,顶级,产品,公司,模型,人工智能
...分器训练可提供一致性，但也存在风险，包括强化偏见和幻觉。此外，它可能违反专有LLM服务的使用条款，条款禁止使用其模型的输出来开发竞争模型。为了解决这些限制和显著降低成本，谷歌引入了一个用于自动评分的大型基...……更多
2024-08-05 09:37:00准确率,模型,评估,评估,模型,数据
...工作。“要想实现大模型在产业的进一步落地，准确性和幻觉问题是不可回避的挑战。”百融云创AI创新负责人表示。大模型想要精准，前置的数据处理环节非常重要。在这一环节，百融云创打造了智能版面识别系统。很多企业...……更多
2024-04-26 13:16:00中国,落地,生成,模型,大会,应用
...域（如航空和医疗），毕竟当今的大型语言模型常会出现幻觉等问题。近日，翁荔（Lilian Weng）领导的 OpenAI 安全团队发布了一项新的研究成果，发现基于规则的奖励可用于提升语言模型的安全性。这不由得让人想到了科幻作家...……更多
2024-11-07 09:54:00定律,机器人,模型,规则,机器,安全
...界第一个支持流式输出;在同等智能级别,输出最快;在减少幻觉、应对困难开放型问题上,准确度是ClaudeAI2.1的两倍;更好的开箱即用体验,无需过多优化提示词,拒绝率更低。ClaudeAI3推出了三个模型High(最快)、Sona(性能与功能平衡)、Opu...……更多
2024-04-11 16:48:00生成,时代,陈晓,亚马,生成,亚马逊
...着模态的增加，输入输出空间的分布更加广泛，并增加了幻觉现象，使得全模态对齐变得更加复杂。在不到两周的时间内，北大对齐小组基于 Llama-3.2-Vision 的 11B 预训练版本进行后训练 (Post-Training) 对齐微调得到 Beaver-Vision-11B，...……更多
2024-10-18 09:47:00模态,指令,框架,模态,模型,数据
...许多已知的局限性，我们正在努力解决，比如社会偏见、幻觉和对抗性提示。”总的来说，GPT-4相对于以前的模型（经过多次迭代和改进）已经显著减轻了幻觉问题。在OpenAI的内部对抗性真实性评估中，GPT-4的得分比最新的GPT-3.5...……更多
2023-03-15 23:12:00模型,版本,模型,训练,公司,中国
...”搭载了文本向量化模型，以解决大模型“已读乱回”的幻觉问题。合合信息的思路是，从“炼丹”源头的燃料出发，通过标准化平台进行语料结构化，提高数据预训练效率，帮助大模型厂商达成有效的模型性能提升和迭代。处...……更多
2024-07-30 00:59:00八道,模型,原料,观察,产品,公司
...帮助未来的人工智能模型更加中立和公平，并减少噪音、幻觉和不相关的信息，从而提高训练的效率和模型的准确性。根据已知的信息，草莓计划改进了推理、逻辑以及规划和开展研究的能力，可以让模型自主进行实验、分析数...……更多
2024-09-11 09:55:00人工智能,推理,草莓,人工,模型,突破
...更快的推理速度；
此外，Memory3 提高了事实性并减轻了幻觉，并能够快速适应专业任务。方法介绍记忆电路理论有助于确定哪些知识可以存储为显式记忆，以及哪种模型架构适合读取和写入显式记忆。研究者将输入输出关系作...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...像，处理更大的文本块。对于AI聊天机器人此前暴露出的幻觉、偏见等缺陷，GPT-4也有所改进。但专家指出，这并不意味着这些缺陷已被修复，GPT-4仍会做错最基础的算术题。另据介绍，和ChatGPT不同，使用GPT-4需每月支付20美元的...……更多
2023-03-16 09:21:00纽约,机器人,纽约时报,文本,意味,机器
...方法，下面咱们就详细聊聊。大模型的胡说八道和风险“幻觉”（Hallucinations）是大语言模型（例如 ChatGPT、Gemini、或文心一言）面临的一个关键问题，也是网络上常见的用户体验吐槽类型之一，这个术语可以粗略地理解为 AI 一...……更多
2024-07-01 11:40:00牛津大学,八道,牛津,怎么办,方法,开发
...署一个机器学习模型。LLM的另一个重大问题是容易产生“幻觉”——即模型生成的输出看似合理，但实际上并不正确。这是由于LLM的训练方式是根据数据中的模式预测下一个最可能的单词，而非真正理解信息。因此，LLM可能会自...……更多
2024-08-26 14:17:00模型,英伟,微软,模型,训练,性能
更多关于科技的资讯：
继Citywalk、特种兵式旅游后，这届年轻人又发掘出了新乐子——低价体验课。记者打开各大生活服务平台看到，这些课程的价格从55元
2024-11-12 10:52:00
随着生活节奏的加快和工作压力的增加，年轻人越来越渴望通过简单、灵活的方式来放松身心、丰富体验。在这样的背景下，能够以低廉的价格进行放松与拓展兴趣的低价体验课逐渐成为年轻人的热门选择
2024-11-12 10:53:00
大众网记者 郑健 通讯员 贾佳 潍坊报道近日，以“良币时代”为主题的2024《哈佛商业评论》中国年会暨第七届“「鼎革奖」数字化转型先锋榜”颁奖典礼在北京召开
2024-11-12 10:53:00
华硕服务器新品接力强势助攻，今再推出多款搭载Intel®Xeon®6处理器的服务器，包括：多节点的ASUSRS920Q-E12
2024-11-12 10:59:00
数字经济时代，企业数字化转型已成必然，越来越多的企业踏浪前行，加速探索全领域的数字化转型，获得竞争优势。数字化技术的快速发展也加速了税收征管改革进程
2024-11-12 11:00:00
快科技11月12日消息，智界新S7开启预售，此次SKU非常简单，仅有三款，PRO版24.8万、MAX版27.8万、Ultra版32
2024-11-12 11:17:00
快科技11月12日消息，近日，微软Edge浏览器的新标签页上的“Microsoft Start”标识已被更换为MSN标志性“蝴蝶”Logo
2024-11-12 11:17:00
快科技11月12日消息，据“微信派”官微发文，微信视频号直播内测新功能——K歌房。K歌房允许用户在直播开播页面选择“语音”后创建K歌房间
2024-11-12 11:17:00
快科技11月12日消息，今天VMware宣布，其桌面虚拟化产品VMware Workstation和VMware Fusion将对所有用户彻底免费
2024-11-12 11:17:00
快科技11月12日消息，骑摩托车是一种很正常不过的行为，但林子大了什么鸟都有，总有一些骑手爱显摆，喜欢炸街，甚至组团炸街
2024-11-12 11:17:00
快科技11月12日消息，进入2024年，国产手机的电池容量整体呈不断走高之势。刚刚，红魔游戏手机宣布，即将上市的红魔10 PRO将行业首发7050mAh牛魔王电池
2024-11-12 11:17:00
快科技11月12日消息，随着汽车销量的稳步增长，越来越多的车企开始重视并打造专属的私域APP，以提升用户体验和品牌忠诚度
2024-11-12 11:17:00
“智能体是AI应用的最主流形态，即将迎来它的爆发点。”11月12日，在百度世界2024，百度创始人李彦宏发表了关于智能体的最新观点
2024-11-12 11:19:00