- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...Phi-3.5，适合在内存和算力受限的环境中运行，均支持128k上下文长度。Phi-3.5-mini-instruct主要面向基础快速推理任务，Phi-3.5-MoE-instruct可胜任复杂推理任务，Phi-3.5-vision-instruct则兼具文本与视觉能力。性能最强大的Phi-3……更多
2024-08-22 09:49:00上下文,微软,架构,模型,上下,性能
...内的大模型而言，只有Minimax采用了MoE架构。二、扩容的上下文窗口意味着什么？虽然Gemini 1.5 Pro是 Gemini 1.5 系列的初代版本，但初代便表现不俗。扩大上下文窗口后的高水平性能是Gemini 1.5 Pro的一大亮点。多模态大模型卷到今日...……更多
2024-02-21 14:05:00劲敌,高产,模式,模型,上下文,处理
...希望一举打破英伟达的垄断地位。而AMD的MI300，在部署32K上下文窗口的GPT-4模型时，居然比H100效果更好？AI芯片大决战，即将来临！AI硬件开发商初创公司的未来会怎样？Tenstorrent CEO David Bennett直言不讳地表示，在我们这个行业，...……更多
2023-11-06 15:12:00英伟,大决战,芯片,性能,英伟,芯片
...层，相比 Mamba 可将 KV 缓存减少 32 倍。例如，在 256K 令牌上下文环境中，MixCon 仍能保持较小的 KV 缓存优势（如表 1 所示）。在吞吐量方面，处理长序列时，Conba 层计算效率更高，增加其比例可提高整体吞吐量。基本配置单位是 ...……更多
2024-10-16 13:34:00序列,架构,北大,混合,团队,性能
大模型的上下文长度快速增长，超长上下文解锁新应用，但推理计算代价高昂，上下文本身对于信息不会进行压缩，不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年，人工智能领域风起...……更多
2024-03-25 10:53:00林达,模型,之路,结构,发展,模型
...此类新功能构建的Copilot现在可以利用内存和知识来获取上下文信息、推理操作和输入、根据用户反馈进行学习并在遇到不知道如何处理的情况时寻求帮助，从而独立管理复杂、长期运行的业务流程。AzureAIStudio现已支持提供GPT-4oA...……更多
2024-05-22 20:01:00微软,微软,纳德拉,纳德,模型,功能
...T的DCLM，DCLM-7B模型又进一步过滤出其中的2.5T用于训练。
上下文长度为2048，小于Mistral 7B和Gemma 2 9B的8k长度。性能方面，作者直接使用评估套件LLM Foundry，测试了模型在53个基准任务上的分数。与其他模型进行比较时，除了MMLU分...……更多
2024-07-22 09:41:00血战,强势,模型,苹果,模型,数据
...层的参数占到了相当大的比例。比如，125M模型中要使用上下文长度32k、维度512的编码，输入和输出编码层就包含了16M的参数，占比达到20%。相较之下，大模型的编码层参数量显得微不足道。比如LLaMA-7B中，这个比例就下降到了3.7...……更多
2024-07-23 09:39:00模型,性能,移动,模型,参数,架构
...有效地捕获其关系。这种通过比较文本中每个token来理解上下文的方式，需要更多的计算能力和内存来处理不断增长的上下文窗口。如果资源没有相应扩展，推理速度会变慢，最终无法处理超过某个固定长度的文本。为了解决这...……更多
2024-08-14 09:43:00一鸣,霸主,模型,再次,模型,序列
...模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。百川智能称，Baichuan2-192K是目前全球最长的上下文窗口，也是目前支持长上下文窗口最优秀大模型Claude2（支持100K上下文窗...……更多
2023-10-30 15:02:00王小川,王小,上下文,模型,上下,焦点
...任务中展现了广泛的适用性。模型只需快速微调就能适应上下文，可以无缝部署在各种场景中。
可扩展性：OpenCity展示了有希望的缩放定律，表明该模型有潜力在最小的额外训练或微调需求下有效地扩展和适应新的、以前未见过...……更多
2024-09-02 13:34:00路况,样本,模型,交通,交通,模型
...每个单词（或 token）与文本中的每个单词进行比较来理解上下文，它需要更多的计算能力和内存需求来处理不断增长的上下文窗口。但是如果不相应地扩展计算资源，模型推理速度就会变慢，超过一定长度的文本就没法处理了。...……更多
2024-08-14 09:39:00力大,架构,模型,模型,架构,训练
...代码能力和数学能力专项的继续训练模型。全球最长200K上下文窗口Yi-34B模型将发布全球最长、可支持200K超上下文窗口(contextwindow)版本，可以处理约40万汉字超文本输入。上下文窗口是大模型综合运算能力的金指标之一，对于理...……更多
2023-11-06 15:25:00阿里,万物,模型,评测,冠军,全球
...工作信息，开不完的会议。而现在，通过Recall，提供几句上下文，就可以迅速找到桌面上任何内容。比如寻找自己与好友Renat乘车旅行的照片，在搜索栏中，给出提示，Recall便会提供相匹配的结果。不仅仅是电脑的文件，包括你...……更多
2024-05-21 13:47:00微软,装进,全家,全世界,苹果,微软
...k。如今，马斯克更新到Grok 1.5模型。新一代模型实现了长上下文理解和高级推理能力，计划将在未来几天内向早期测试人员和 X 平台（前 Twitter）上的现有 Grok 用户提供。具体来说，首先，Grok-1.5 最明显的改进之一是其在代码和...……更多
2024-03-31 04:00:00估值,美金,要闻,芯片,高达,性能
谷歌大改Transformer，“无限”长度上下文来了。现在，1B大模型上下文长度可扩展到1M（100万token，大约相当于10部小说），并能完成Passkey检索任务。8B大模型在500K上下文长度的书籍摘要任务中，拿下最新SOTA。这就是谷歌最新提...……更多
2024-04-14 02:57:00大内,机制,上下文,模型,处理,上下
...以带来大幅的模型性能提升。同时，GPT-3论文正式提出“上下文学习”，建立了以提示学习方法为基础技术路线的任务求解范式。ChatGPT：一举成为现象级应用，引入RLHF算法改进训练数据GPT系列模型的技术演变（ChatGPT）：在GPT-3...……更多
2024-10-21 10:03:00模型,行业报告,新纪元,报告,发展,行业
...质量令人着迷。总结：谷歌可能找到了某种新方法，将长上下文的架构理念与他们的 TPU 计算堆栈相结合，并取得了很好的效果。据 Gemini 长语境的负责人之一Pranav Shyam说，这个想法几个月前才刚刚萌芽。如果以小版本（v1.5）而...……更多
2024-02-17 19:48:00上下文,新贵,上下,世界,模型,视频
...发者提供了前段时间在I/O大会上官宣的Gemini 1.5 Pro的200万上下文窗口访问权限、Gemini API的代码执行功能，并在Google AI Studio中添加了Gemma 2。在最新的博客中，谷歌宣布向所有开发者开放了Gemini 1.5 Pro的200万token上下文窗口访……更多
2024-06-29 09:37:00诚意,经济,模型,训练,性能,注意力
...antization)
最大序列长度为8,192个数据单元，以处理更长的上下文信息纽约时报点评道，开源Gork背后的原始代码，是这个世界上最富有的人控制AI未来战斗的升级。Meta CEO扎克伯格刚刚也对Grok做出了评价：“并没有给人留下真正深...……更多
2024-03-20 13:44:00马斯,马斯克,模型,全球,马斯,马斯克
...ama 3已经开放了80亿（8B）和700亿（70B）两个小参数版本，上下文窗口为8k。Meta表示，通过使用更高质量的训练数据和指令微调，Llama 3比前代Llama 2有了“显著提升”。未来，Meta将推出Llama 3的更大参数版本，其将拥有超过4000亿参...……更多
2024-04-19 15:58:00分水,分水岭,模型,参数,社区,模型
...重头戏之一，其新的Hexagon NPU支持了端侧多模态，支持4k上下文窗口。值得一提的是，高通在发布会上宣布了跟腾讯混元和智谱的合作，腾讯混元大模型7B和3B版本、智谱的GLM-4V端侧视觉大模型都会在搭载骁龙8 Elite的手机上落地。...……更多
2024-10-22 09:51:00高通,荣耀,腾讯,小米,新机,芯片
...将具备多步骤推理能力。来源：谷歌谷歌的Gemini以超长的上下文窗口而出名。在大会上，谷歌重点强调了大模型Gemini 1.5 Pro的多模态和长文本能力，为其推出一系列更新。谷歌将向全球150多个国家地区的Gemini Advanced订阅者提供最...……更多
2024-05-15 09:54:00文生,模型,模态,全家,助手,视频
...大方面更新重点值得关注和思考。1、GPT-4 Turbo：支持128k上下文，相当于300页文档，输入价格大降2/3，速率限制翻倍，知识更新到2023年4月，改进指令跟随和JSON Mode，更新多个函数调用能力。这意味着比GPT-4更强、更便宜、开发成...……更多
2023-11-07 17:45:00上下文,史诗,模型,上下,更新,价格
...当前屏幕解析技术中的空白。该工具并不需要依赖额外的上下文数据，可以理解更复杂的图形用户界面（GUI），是智能 GUI 自动化领域的一项令人兴奋的进展。
OmniParser 结合可交互区域检测模型、图标描述模型和 OCR 模块等，不...……更多
2024-10-30 09:47:00微软,截图,屏幕,视觉,智能,模型
现在，长上下文视觉语言模型（VLM）有了新的全栈解决方案 ——LongVILA，它集系统、模型训练与数据集开发于一体。现阶段，将模型的多模态理解与长上下文能力相结合是非常重要的，支持更多模态的基础模型可以接受更灵活...……更多
2024-08-22 09:51:00英伟,准确率,支持,视频,序列,训练
...LM 中，显式记忆是继隐式记忆（模型参数）和工作记忆（上下文键值）之后的第三种记忆形式。
具体而言，本文引入了一种新的记忆格式，即显式记忆，其特点是写入成本和读取成本相对较低。如图 1 所示，模型首先将知识库...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...的改动最受不了的应该就是右键了，win11是大改了，改成上下文层叠式的，很多选项需要第二次点击才会出现，整体体验让人很不爽。上下文菜单是微软win11系统的一项核心改进，但是改了之后它会导致性能下降，部分硬件上点...……更多
2023-01-11 10:44:00微软,菜单,性能,问题,微软,问题
...nsformer 的模型关注与输入序列相关的部分，实现了更好的上下文理解。然而，注意力机制的缺点是计算开销大，会随输入规模而二次增长，Transformer 也因此难以处理非常长的文本。前段时间，Mamba 的出现打破了这一局面，它可以...……更多
2024-09-03 09:59:00线性,新作,混合,作者,模型,线性
...据集：LooGLE，专门用于测试和评估大语言模型（LLMs）长上下文理解能力。该数据集既能够评估LLMs对长文本的处理和检索能力，又可以评估其对文本长程依赖的建模和理解能力。结果不评不知道，一评估发现这些模型在复杂的长...……更多
2024-08-08 09:39:00基准,北大,生成,模型,文本,评估
更多关于科技的资讯：
快科技3月6日消息，深蓝航天官宣近期完成新一轮融资，总规模近5亿元人民币。本轮融资由泰山产业发展投资集团旗下泰安远望新能源产业投资基金合伙企业（有限合伙）领投
2025-03-06 11:43:00
快科技3月6日消息，伴随着丰田雷克萨斯确定在中国生产，更多品牌也坐不住了。近日，素有“韩国宾利”美誉的捷尼赛思正式宣布品牌开启国产化进程
2025-03-06 11:43:00
快科技3月6日消息，据报道，Alphabet旗下谷歌推出了一款实验版搜索引擎， 彻底取消了传统的10个蓝色链接展示形式
2025-03-06 11:43:00
作为每年MWC巴塞罗那备受瞩目的重磅奖项之一，GTI Awards 2025于当地时间3月4日在GTI国际产业大会上正式揭晓
2025-03-06 11:43:00
2025年3月5日，好老师教育集团与重庆邮电大学在重庆邮电大学江南分院学术报告厅隆重举行“博智云”教育智能体生态联盟战略发布会
2025-03-06 12:01:00
3月6日，鸿蒙智行发微博官宣，问界M8和问界M92025款均开启预订。家庭智慧旗舰SUV鸿蒙智行问界M8开启预订，预售价36
2025-03-06 12:04:00
编者按：制造业是我国经济命脉所系，是立国之本、强国之基。3月5日，政府工作报告中介绍今年政府工作任务时提出，加快制造业数字化转型
2025-03-06 12:05:00
快科技3月6日消息，优派推出了一款27寸显示器——VX27G81-2K-W，首发899元。新款显示器采用了27英寸的Fast IPS屏
2025-03-06 12:13:00
3月6日消息，“骨骼惊奇”真的存在，只是看起来略显骇人。近日，19岁女孩晒视频称自己双膝盖可随意转动，从小就这样，视频里
2025-03-06 12:13:00
快科技3月6日消息，今天苹果更新了Mac Studio，但其高端型号搭载的仍是上一代的M3 Ultra芯片，而非最新的M4 Ultra
2025-03-06 12:13:00
Shure全新无线立体声麦克风具有四种可选拾音模式，可在任何环境下捕捉专业音频2025年3月4日 -Shure推出了MoveMic88+无线立体声麦克风
2025-03-06 12:22:00
快科技3月6日消息，小鹏汽车今日发布了全新小鹏G9官图。小鹏汽车董事长何小鹏表示，全新小鹏G9全车升级了66项体验，并且
2025-03-06 12:43:00
快科技3月6日消息，AMD最新的锐龙9 9900X3D和9950X3D处理器已经在京东上架，显示将于3月12日22：00正式开售
2025-03-06 12:43:00
快科技3月6日消息，海外科技媒体报道，哈雷·戴维森（注：即哈雷）推出限量版CVO Road Glide RR摩托车，这款车被视作该品牌史上最强劲
2025-03-06 12:43:00