- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
新智元报道编辑：alan【新智元导读】当今的LLM已经号称能够支持百万级别的上下文长度，这对于模型的能力来说，意义重大。但近日的两项独立研究表明，它们可能只是在吹牛，LLM实际上并不能理解这么长的内容。大数字一向...……更多
2024-07-23 17:12:00正确率,长上,下文,模型,只是,能力
...个姐妹，那么爱丽丝的兄弟有多少个姐妹呢？」问题时，正确率非常低。我们让 GLM-4-Flash 试了试，回答正确。改变了主角性别和亲属关系之后，GLM-4-Flash 同样可以理解，再次回答对了。测试 3：对于多人真假话判断问题，GLM-4-Fla...……更多
2024-08-28 09:43:00真香,模型,模型,能力,应用,开发
...模型在该网页/片段下尝试回答该样本，根据模型回答的正确率进行打分。基于这样的伪标注方法，研究人员构造了~80w样本用于训练。最后一步，人为验证。构造测试集时，研究者对第3步得到的视觉问答样本进行了人为筛选，确...……更多
2024-11-11 13:34:00模态,接入,框架,模型,效果,互联网
...长度为2048个token的英语数据上进行训练，可能在多语言或长上下文上表现不佳。在未来的版本中，作者计划包括对更多具有更长上下文的多语言数据集的训练。最后，这项工作一直以有监督的多任务方式训练FLAMe模型。探索RLHF和...……更多
2024-08-05 09:37:00准确率,模型,评估,评估,模型,数据
...时间、地名、人名的错误，人类在简单难度下的中文平均正确率约为 98.58%，在困难难度下的中文平均正确率约为 91.84%。而去掉这些因为时间、地名、人名的错误，人类在简单难度的中文下几乎接近满分，而中文困难难度下正确...……更多
2024-06-29 09:37:00模态,基准,弱点,团队,模型,任务
现在，长上下文视觉语言模型（VLM）有了新的全栈解决方案 ——LongVILA，它集系统、模型训练与数据集开发于一体。现阶段，将模型的多模态理解与长上下文能力相结合是非常重要的，支持更多模态的基础模型可以接受更灵活...……更多
2024-08-22 09:51:00英伟,准确率,支持,视频,序列,训练
...效果的影响。主要结论如下：多数情况下，自我纠错后的正确率高于原正确率（图4）
正确率提升与自我评估的准确率高度相关（图4(c):），甚至呈线性关系（图5（a））。
采用不同的评价方式效果依次提升：仅使用对/错评价 &...……更多
2024-11-19 09:48:00推理,北大,团队,解释,能力,理论
...数据集：LooGLE，专门用于测试和评估大语言模型（LLMs）长上下文理解能力。该数据集既能够评估LLMs对长文本的处理和检索能力，又可以评估其对文本长程依赖的建模和理解能力。结果不评不知道，一评估发现这些模型在复杂的...……更多
2024-08-08 09:39:00基准,北大,生成,模型,文本,评估
...种日常活动。评测结果表示，人类专家水平显著优于目前长上下文多模态模型中最厉害的Gemini Pro 1.5（85.0%对37.3%）。在多模态能力上，大模型们还任重而道远。HourVideo如何炼成？
之所以提出HourVideo，是因为研究人员发现目前长...……更多
2024-11-11 13:31:00团队,智能,空间,视频,模态,模型
...上说，除非显著增加架构的规模，否则Transformer将无法在长上下文中进行任意精确的计数。这表明在计数任务中，我们可能需要借助于不具有相同限制的工具，例如代码解释器等。 ……更多
2024-09-09 13:36:00小哥,原地,外国,论文,小哥,研究者
...Baichuan2-192K是目前全球最长的上下文窗口，也是目前支持长上下文窗口最优秀大模型Claude2（支持100K上下文窗口，实测约8万字）的4.4倍，更是GPT-4（支持32K上下文窗口，实测约 2.5万字）的14倍（1400%）。这不仅在上下文窗口长度上...……更多
2023-10-30 15:02:00王小川,王小,上下文,模型,上下,焦点
...据增强训练，Hunyuan-Large能够学习到更丰富的表示，处理长上下文输入，并更好地泛化到未见数据KV缓存压缩：采用分组查询注意力（GQA）和跨层注意力（CLA）策略，显著减少了KV缓存的内存占用和计算开销，提高了推理吞吐专家...……更多
2024-11-05 18:56:00腾讯,模型,模型,长上,腾讯,训练
...GPT-4进行了一场能力评测。▍文本测试：谷歌Gemini 1.5 Pro正确率和速度完胜GPT-4o和GPT-4OpenAI发布GPT-4已过去一年多，据介绍，此次推出新旗舰模型GPT-4o的推理能力有明显的提升，速度快了，价格也下降了。谷歌Gemini系列以其标志性...……更多
2024-05-17 14:26:00实测,巅峰,选手,记者,明星,模型
...anEval 基准测试中得分为 74.1%。IT之家附测试对比表如下：长上下文理解方面，Grok-1.5 能够在其上下文窗口内处理多达 128k tokens 的长上下文。这使得 Grok 的内存容量增加到之前上下文长度的 16 倍，从而能够理解更长文档中的信息...……更多
2024-03-29 14:00:00马斯,马斯克,模型,语言,基准,上下文
...动的LLM文本生成」。RAG于2020年推出，它使用动态提示上下文，通过用户问题检索并注入LLM提示，以引导其使用检索到的内容，而不是预训练的知识。Chat LangChain是由RAG支持的、在Lang Chain文档上流行的Q/A聊天机器人。上下文学习...……更多
2024-08-27 12:03:00小白,长文,千字,基础,指南,训练
...高了大模型的准确性和可靠性，还使其能够更好地理解上下文，并将检索到的知识融入到生成过程中，从而生成更加贴合实际需求的文本。但RAG也并非完美无缺。互联网上的信息五花八门，存在着大量的干扰内容，甚至假新闻，...……更多
2024-03-28 16:16:00精度,幻觉,模型,结果,模型,幻觉
...个新的前沿”。Mistral Large 2尤其擅长代码和数学推理，上下文窗口128k，支持数十种自然语言以及80+编程语言。特别在MMLU上，其预训练版本更是达到了84.0%的准确率。消息一出，Mistral AI联创兼首席科学家第一时间转发，直接cue Lla...……更多
2024-07-26 09:39:00模型,参数,模型,基准,问题,推理
...专家模型架构。这一模型系列中最小的Phi-3.5-mini-instruct在长上下文代码理解任务以明显优势击败Llama-3.1-8B-instruct和Mistral-7B-instruct，而其参数规模还不到Llama-3.1-8B-instruct的一半。微软本次发布的3款模型的名字中……更多
2024-08-22 09:49:00上下文,微软,架构,模型,上下,性能
...），MixCon（无 MoE）训练过程损失更低（如图 6 所示）。
长上下文评估利用问答基准测试评估 MixCon 处理长上下文能力，使用 L - Eval 中最长上下文数据集的五个数据集，以少样本格式（每个实验用三个例子）进行实验。在 Narrativ...……更多
2024-10-16 13:34:00序列,架构,北大,混合,团队,性能
...AI于2023年底正式问世。这款财税领域的GPT以财税理论回答正确率高达92%的惊人成绩，率先占领了业内第一梯队。同时，小竹财税成功获得1000万元天使轮融资。据了解，小竹财税（安徽小竹信息技术有限公司）成立于2021年11月，...……更多
2024-03-14 13:30:00中国,模型,模型,领域,需求,正确率
...。该观点还指出，人类在解决数学问题时通常有明确的上下文，而 LLM 在处理数学问题时可能没有这样的上下文。因此，如果通过适当的提示工程，向模型明确这是一个数学考试的环境，那么它们在添加多余子句时导致的性能下...……更多
2024-10-14 09:55:00数学题,推理,废话,苹果,数学,小学
...的成绩。之后，xAI 迅速推出 Grok 1.5，新一代模型实现了长上下文理解和高级推理能力。8 月，Grok 2 上线，在常识、数学竞赛问题 (MATH)、研究生水平科学知识 (GPQA) 等领域与其他前沿模型相媲美。如今，在 xAI 不断完善下，大家终...……更多
2024-10-30 09:54:00马斯,马斯克,费曼,公式,功能,论文
...，模型不仅要识别和提取文本，还要理解其在图像中的上下文、与视觉元素的关系以及与当前问题的相关性。CoT有助于回答MMMU-Pro问题吗？在MMMU-Pro基准测试中，研究人员估了思维链（Chain of Thought，简称CoT）提示在提升智能体性...……更多
2024-09-18 13:31:00模态,史诗,基准,难度,问答,文本
...（Naive Evaluation）：评估引擎的正确性，包含两个指标。正确率（Acc）：即生成的代码是否正确地实现了应有的功能。执行率（Exe）：即生成的代码是否能通过编译，不论正确与否。Exe对于用户的体验感非常重要，很多情况下，...……更多
2024-09-05 10:04:00交大,进化,引擎,世界,研究人员,引擎
...满足现在用户需求的智能客服。能理解用户问题、结合上下文给出解决办法，并且有情商、说人话、能面对各种复杂情景。而且上手门槛很低。
比如参赛选手云蝠智能，他们的主打业务是电话客服，在文本客服方面的积累不多...……更多
2024-09-23 09:53:00大姨,一群,落地,智能,百炼,模型
...数平均仅为29%，部分参与者通过脑电解码得到的句子完全正确率达到了30%。相对高效的解码性能得益于三个独立音节元素解码器的优秀表现和智能语言模型的完美配合。特别的是在分类21个声母方面，声母解码器的准确率超过了4...……更多
2023-11-29 11:46:00西湖,中文,接口,团队,突破,医院
...一款面向C端的大模型产品。早前，该公司宣布在大模型长上下文窗口技术上取得新的突破，Kimi已支持200万字超长无损上下文，并开启产品内测，该能力在不到半年内提升9倍。市场的火爆，导致Kimi服务器一度瘫痪，无法回复用...……更多
2024-03-23 14:00:00卷上,通义,阿里,文心,下文,模型
...数字可能出现在版本号、股票代码、基金表现、汇率等上下文中，这些场景下的数字大小并不总是具有直接的比较意义。如果训练数据中存在关于数字比较的偏差或不足，模型可能无法学习到正确的比较规则。另一方面，可能由...……更多
2024-07-18 09:47:00最新技术,难题,研究,技术,模型,小数
大模型的上下文长度快速增长，超长上下文解锁新应用，但推理计算代价高昂，上下文本身对于信息不会进行压缩，不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年，人工智能领域风起...……更多
2024-03-25 10:53:00林达,模型,之路,结构,发展,模型
...索步骤对论文块进行排序，然后进行大模型重新排序和上下文摘要（RCS）步骤。
在回答 LitQA2 问题时，PaperQA2 平均每道题解析并使用 14.5 ± 0.6（平均值 ± SD，n = 3）篇论文。在 LitQA2 上运行 PaperQA2 可获得 85.2% ± 1.1%（平均值 ……更多
2024-09-13 13:33:00博士后,模型,科研,博士,检索,能力
更多关于科技的资讯：
2024年11月28日，在太原市杏花岭区的卧虎山社区，一场健康主题的社区活动正在热烈展开。全国首家“光营养爱眼小屋”作为活动的重要部分
2024-11-29 22:04:00
快科技11月29日消息，中国音数协游戏工委今天公布了“2024游戏十强年度榜提名名单”。其中《黑神话：悟空》及其出品公司杭州游科互动科技有限公司
2024-11-29 17:34:00
快科技11月29日消息，小米集团合伙人、总裁卢伟冰昨日在参加一场活动时，解析了小米智能大家电等火爆背后的成功逻辑。在卢伟冰看来
2024-11-29 17:34:00
在这个充满个性与创意的时代，自拍已经成为人们记录生活、展现自我的重要方式。快门工房自拍亭正是来自香港的年轻品牌，成立于2020年
2024-11-29 17:45:00
在如今竞争激烈的商业世界中，线下体验店一直在寻求独特的方式来吸引顾客的目光。而引入快门工房自拍亭无疑为线下体验店注入了新的活力与魅力
2024-11-29 17:45:00
近日，云知声旗下云知学院在北京、上海、厦门三地开展AI专题培训，深度赋能教师、企业家、外企高层等多元化群体，持续探索AIGC技术在各行各业的应用潜力
2024-11-29 17:45:00
成立至今有31年历史的三思照明，一直专注LED领域创新，致力于为消费者提供健康和高品质的光线。除了传统家居照明外，三思照明还进军了家用消毒领域
2024-11-29 17:45:00
11月20～21日，以“AI之光，照耀未来”为主题的CDCC2024第十二届数据中心标准大会在北京举行。全球智慧全链驱动——维谛技术(Vertiv)智算专场
2024-11-29 17:45:00
快科技11月29日消息，捷尼赛思即将于12月6日发布一款全新跑车，其预告图揭示了车辆的空气动力学设计和运动姿态。从预告图来看
2024-11-29 18:04:00
快科技11月29日消息，国家版权局日前公布了《2023年度全国打击侵权盗版十大案件》。其中《和平精英》“鸡腿”外挂入选
2024-11-29 18:04:00
快科技11月29日消息，今日，阿里巴巴创始人马云现身阿里巴巴西溪园区C区的照片在网上曝光，引起网友热议。网传图片显示，一身休闲装扮的马云
2024-11-29 18:04:00
快科技11月29日消息，据报道，新发表于英国《南极科学》杂志的研究揭示了南极洲的一项重大科学突破：科研人员首次在这片冰雪覆盖的大陆上发现了琥珀遗迹
2024-11-29 18:04:00
由648工作室开发的《中国式网游》已在Steam平台发售数月，官方日前正式宣布《中国式网游》的销量已突破40万份，游戏还在Steam平台开启了特价促销活动
2024-11-29 18:34:00
消费日报网讯（记者 郑红梅 □ 谢玮）为进一步释放年终消费潜力，增强市场活力，11月28日，海口市秀英区政府推出“嗨购秀英 乐享免税”专项活动
2024-11-29 18:42:00
齐鲁晚报·齐鲁壹点 王赟新零售市场正在酝酿什么大变局？大家都在感知。变局之中，有身陷“围城”者，有起“新”势者。山东本土商业品牌“银座”是后者
2024-11-29 18:43:00