- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...Phi-3.5，适合在内存和算力受限的环境中运行，均支持128k上下文长度。Phi-3.5-mini-instruct主要面向基础快速推理任务，Phi-3.5-MoE-instruct可胜任复杂推理任务，Phi-3.5-vision-instruct则兼具文本与视觉能力。性能最强大的Phi-3……更多
2024-08-22 09:49:00上下文,微软,架构,模型,上下,性能
...内的大模型而言，只有Minimax采用了MoE架构。二、扩容的上下文窗口意味着什么？虽然Gemini 1.5 Pro是 Gemini 1.5 系列的初代版本，但初代便表现不俗。扩大上下文窗口后的高水平性能是Gemini 1.5 Pro的一大亮点。多模态大模型卷到今日...……更多
2024-02-21 14:05:00劲敌,高产,模式,模型,上下文,处理
...希望一举打破英伟达的垄断地位。而AMD的MI300，在部署32K上下文窗口的GPT-4模型时，居然比H100效果更好？AI芯片大决战，即将来临！AI硬件开发商初创公司的未来会怎样？Tenstorrent CEO David Bennett直言不讳地表示，在我们这个行业，...……更多
2023-11-06 15:12:00英伟,大决战,芯片,性能,英伟,芯片
...层，相比 Mamba 可将 KV 缓存减少 32 倍。例如，在 256K 令牌上下文环境中，MixCon 仍能保持较小的 KV 缓存优势（如表 1 所示）。在吞吐量方面，处理长序列时，Conba 层计算效率更高，增加其比例可提高整体吞吐量。基本配置单位是 ...……更多
2024-10-16 13:34:00序列,架构,北大,混合,团队,性能
大模型的上下文长度快速增长，超长上下文解锁新应用，但推理计算代价高昂，上下文本身对于信息不会进行压缩，不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年，人工智能领域风起...……更多
2024-03-25 10:53:00林达,模型,之路,结构,发展,模型
...此类新功能构建的Copilot现在可以利用内存和知识来获取上下文信息、推理操作和输入、根据用户反馈进行学习并在遇到不知道如何处理的情况时寻求帮助，从而独立管理复杂、长期运行的业务流程。AzureAIStudio现已支持提供GPT-4oA...……更多
2024-05-22 20:01:00微软,微软,纳德拉,纳德,模型,功能
...T的DCLM，DCLM-7B模型又进一步过滤出其中的2.5T用于训练。
上下文长度为2048，小于Mistral 7B和Gemma 2 9B的8k长度。性能方面，作者直接使用评估套件LLM Foundry，测试了模型在53个基准任务上的分数。与其他模型进行比较时，除了MMLU分...……更多
2024-07-22 09:41:00血战,强势,模型,苹果,模型,数据
...层的参数占到了相当大的比例。比如，125M模型中要使用上下文长度32k、维度512的编码，输入和输出编码层就包含了16M的参数，占比达到20%。相较之下，大模型的编码层参数量显得微不足道。比如LLaMA-7B中，这个比例就下降到了3.7...……更多
2024-07-23 09:39:00模型,性能,移动,模型,参数,架构
...有效地捕获其关系。这种通过比较文本中每个token来理解上下文的方式，需要更多的计算能力和内存来处理不断增长的上下文窗口。如果资源没有相应扩展，推理速度会变慢，最终无法处理超过某个固定长度的文本。为了解决这...……更多
2024-08-14 09:43:00一鸣,霸主,模型,再次,模型,序列
...模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。百川智能称，Baichuan2-192K是目前全球最长的上下文窗口，也是目前支持长上下文窗口最优秀大模型Claude2（支持100K上下文窗...……更多
2023-10-30 15:02:00王小川,王小,上下文,模型,上下,焦点
...任务中展现了广泛的适用性。模型只需快速微调就能适应上下文，可以无缝部署在各种场景中。
可扩展性：OpenCity展示了有希望的缩放定律，表明该模型有潜力在最小的额外训练或微调需求下有效地扩展和适应新的、以前未见过...……更多
2024-09-02 13:34:00路况,样本,模型,交通,交通,模型
...每个单词（或 token）与文本中的每个单词进行比较来理解上下文，它需要更多的计算能力和内存需求来处理不断增长的上下文窗口。但是如果不相应地扩展计算资源，模型推理速度就会变慢，超过一定长度的文本就没法处理了。...……更多
2024-08-14 09:39:00力大,架构,模型,模型,架构,训练
...代码能力和数学能力专项的继续训练模型。全球最长200K上下文窗口Yi-34B模型将发布全球最长、可支持200K超上下文窗口(contextwindow)版本，可以处理约40万汉字超文本输入。上下文窗口是大模型综合运算能力的金指标之一，对于理...……更多
2023-11-06 15:25:00阿里,万物,模型,评测,冠军,全球
...工作信息，开不完的会议。而现在，通过Recall，提供几句上下文，就可以迅速找到桌面上任何内容。比如寻找自己与好友Renat乘车旅行的照片，在搜索栏中，给出提示，Recall便会提供相匹配的结果。不仅仅是电脑的文件，包括你...……更多
2024-05-21 13:47:00微软,装进,全家,全世界,苹果,微软
...k。如今，马斯克更新到Grok 1.5模型。新一代模型实现了长上下文理解和高级推理能力，计划将在未来几天内向早期测试人员和 X 平台（前 Twitter）上的现有 Grok 用户提供。具体来说，首先，Grok-1.5 最明显的改进之一是其在代码和...……更多
2024-03-31 04:00:00估值,美金,要闻,芯片,高达,性能
谷歌大改Transformer，“无限”长度上下文来了。现在，1B大模型上下文长度可扩展到1M（100万token，大约相当于10部小说），并能完成Passkey检索任务。8B大模型在500K上下文长度的书籍摘要任务中，拿下最新SOTA。这就是谷歌最新提...……更多
2024-04-14 02:57:00大内,机制,上下文,模型,处理,上下
...以带来大幅的模型性能提升。同时，GPT-3论文正式提出“上下文学习”，建立了以提示学习方法为基础技术路线的任务求解范式。ChatGPT：一举成为现象级应用，引入RLHF算法改进训练数据GPT系列模型的技术演变（ChatGPT）：在GPT-3...……更多
2024-10-21 10:03:00模型,行业报告,新纪元,报告,发展,行业
...质量令人着迷。总结：谷歌可能找到了某种新方法，将长上下文的架构理念与他们的 TPU 计算堆栈相结合，并取得了很好的效果。据 Gemini 长语境的负责人之一Pranav Shyam说，这个想法几个月前才刚刚萌芽。如果以小版本（v1.5）而...……更多
2024-02-17 19:48:00上下文,新贵,上下,世界,模型,视频
...发者提供了前段时间在I/O大会上官宣的Gemini 1.5 Pro的200万上下文窗口访问权限、Gemini API的代码执行功能，并在Google AI Studio中添加了Gemma 2。在最新的博客中，谷歌宣布向所有开发者开放了Gemini 1.5 Pro的200万token上下文窗口访……更多
2024-06-29 09:37:00诚意,经济,模型,训练,性能,注意力
...antization)
最大序列长度为8,192个数据单元，以处理更长的上下文信息纽约时报点评道，开源Gork背后的原始代码，是这个世界上最富有的人控制AI未来战斗的升级。Meta CEO扎克伯格刚刚也对Grok做出了评价：“并没有给人留下真正深...……更多
2024-03-20 13:44:00马斯,马斯克,模型,全球,马斯,马斯克
...ama 3已经开放了80亿（8B）和700亿（70B）两个小参数版本，上下文窗口为8k。Meta表示，通过使用更高质量的训练数据和指令微调，Llama 3比前代Llama 2有了“显著提升”。未来，Meta将推出Llama 3的更大参数版本，其将拥有超过4000亿参...……更多
2024-04-19 15:58:00分水,分水岭,模型,参数,社区,模型
...重头戏之一，其新的Hexagon NPU支持了端侧多模态，支持4k上下文窗口。值得一提的是，高通在发布会上宣布了跟腾讯混元和智谱的合作，腾讯混元大模型7B和3B版本、智谱的GLM-4V端侧视觉大模型都会在搭载骁龙8 Elite的手机上落地。...……更多
2024-10-22 09:51:00高通,荣耀,腾讯,小米,新机,芯片
...将具备多步骤推理能力。来源：谷歌谷歌的Gemini以超长的上下文窗口而出名。在大会上，谷歌重点强调了大模型Gemini 1.5 Pro的多模态和长文本能力，为其推出一系列更新。谷歌将向全球150多个国家地区的Gemini Advanced订阅者提供最...……更多
2024-05-15 09:54:00文生,模型,模态,全家,助手,视频
...大方面更新重点值得关注和思考。1、GPT-4 Turbo：支持128k上下文，相当于300页文档，输入价格大降2/3，速率限制翻倍，知识更新到2023年4月，改进指令跟随和JSON Mode，更新多个函数调用能力。这意味着比GPT-4更强、更便宜、开发成...……更多
2023-11-07 17:45:00上下文,史诗,模型,上下,更新,价格
...当前屏幕解析技术中的空白。该工具并不需要依赖额外的上下文数据，可以理解更复杂的图形用户界面（GUI），是智能 GUI 自动化领域的一项令人兴奋的进展。
OmniParser 结合可交互区域检测模型、图标描述模型和 OCR 模块等，不...……更多
2024-10-30 09:47:00微软,截图,屏幕,视觉,智能,模型
现在，长上下文视觉语言模型（VLM）有了新的全栈解决方案 ——LongVILA，它集系统、模型训练与数据集开发于一体。现阶段，将模型的多模态理解与长上下文能力相结合是非常重要的，支持更多模态的基础模型可以接受更灵活...……更多
2024-08-22 09:51:00英伟,准确率,支持,视频,序列,训练
...LM 中，显式记忆是继隐式记忆（模型参数）和工作记忆（上下文键值）之后的第三种记忆形式。
具体而言，本文引入了一种新的记忆格式，即显式记忆，其特点是写入成本和读取成本相对较低。如图 1 所示，模型首先将知识库...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...的改动最受不了的应该就是右键了，win11是大改了，改成上下文层叠式的，很多选项需要第二次点击才会出现，整体体验让人很不爽。上下文菜单是微软win11系统的一项核心改进，但是改了之后它会导致性能下降，部分硬件上点...……更多
2023-01-11 10:44:00微软,菜单,性能,问题,微软,问题
...nsformer 的模型关注与输入序列相关的部分，实现了更好的上下文理解。然而，注意力机制的缺点是计算开销大，会随输入规模而二次增长，Transformer 也因此难以处理非常长的文本。前段时间，Mamba 的出现打破了这一局面，它可以...……更多
2024-09-03 09:59:00线性,新作,混合,作者,模型,线性
【新智元导读】RNN模型在长上下文中表现不佳？近日，来自清华的研究团队对此进行了深入的实验分析，结果表明：不是RNN的锅。与Transformer相比，RNN模型的一大优势是应对长序列的能力。比如Mamba，内部状态大小始终保持不变...……更多
2024-11-28 12:03:00长上,清华,下文,团队,状态,作者
更多关于科技的资讯：
齐鲁晚报·齐鲁壹点 赵波4月25日，智慧城轨2025青岛现场会举办。现场会首日，由中国城市轨道交通协会牵头、青岛地铁研发的我国城市轨道交通行业首个人工智能大模型正式发布
2025-04-26 18:11:00
天猫【洁丽雅内衣旗舰店】男士莫代尔内裤 3条日常售价为 49.9 元，领取 25 元优惠券 ，叠加直降，到手价为 19
2025-04-26 18:34:00
快科技4月26日消息，A股今日收盘后，河北养元智汇饮品股份有限公司发布公告称，旗下芜湖闻名泉泓投资管理合伙企业以货币出资方式
2025-04-26 18:34:00
快科技4月26日消息，让不少车主心心念念的小米SU7 Ultra挖孔版今天开始交付。今天有网友表示，“2月27日开售即下单
2025-04-26 18:34:00
照镜子时，不知道你有没有发现，随着年纪增长，牙缝好像也在悄悄变大？有的人原本紧密排列的牙齿，现在却“渐行渐远”，吃饭容易塞牙不说
2025-04-26 18:34:00
面对国际贸易形势变化，近日，吉林省商务厅联合京东、美团、苏宁等12家电商平台，启动出口企业拓内销专项行动，全力扩大内需
2025-04-26 19:01:00
天猫【真真老老旗舰店】江老字号，真真老老地道嘉兴粽 100g x 4 只日常售价 19.9 元，叠加满 1 件 9 折 + 限时限量 8 元券
2025-04-26 19:04:00
快科技4月26日消息，这段时间，恐怕是AMD历史上处理器产品最为丰富的时刻，新老架构齐上阵，各种领域全覆盖，还衍生出不少奇奇怪怪的型号
2025-04-26 19:04:00
截至2025年2月底,AI原生APP月度活跃用户突破2.4亿,较1月份的1.25亿增长1.15亿,增幅高达88.9%。2月份
2025-04-26 19:08:00
快科技4月26日消息，近日，一位韩国玩家反馈，他购买的技嘉RTX 5080超级雕显卡，出现了导热凝胶溢出的现象，拆开后发现来自GPU区域
2025-04-26 20:04:00
快科技4月26日消息，据广东韶关消防消息，4月21日，广东韶关新丰县丰城街道一民宿惊现眼镜王蛇。消防接警后迅速赶赴现场
2025-04-26 20:04:00
快科技4月26日消息，雷蛇日前发布了新一代灵刃16游戏本，搭载RTX 50系列显卡，售价24999元起。现在这款新品已经来到我们评测室
2025-04-26 20:34:00
大河网讯 披挂着舞狮装束的机器狗整齐列队，惊艳亮相，完成俯卧、踏步、翻转等一系列行云流水的动作；机器人缓步上台，与观众互动
2025-04-26 20:40:00
快科技4月26日消息，最近，各大AMD主板厂商都在发放新版BIOS，固件版本是最新的AGESA 1.2.0.3C，重点修复了Zen5架构处理器中的一个高危安全漏洞
2025-04-26 21:04:00
快科技4月26日消息，理想汽车宣布，理想L6累计交付突破25万辆！拿下三个冠军：-20万以上中国品牌车型销量冠军-增程车型销量冠军-中大型SUV销量冠军该车于去年4月18日上市
2025-04-26 21:04:00