- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...Phi-3.5，适合在内存和算力受限的环境中运行，均支持128k上下文长度。Phi-3.5-mini-instruct主要面向基础快速推理任务，Phi-3.5-MoE-instruct可胜任复杂推理任务，Phi-3.5-vision-instruct则兼具文本与视觉能力。性能最强大的Phi-3……更多
2024-08-22 09:49:00上下文,微软,架构,模型,上下,性能
...内的大模型而言，只有Minimax采用了MoE架构。二、扩容的上下文窗口意味着什么？虽然Gemini 1.5 Pro是 Gemini 1.5 系列的初代版本，但初代便表现不俗。扩大上下文窗口后的高水平性能是Gemini 1.5 Pro的一大亮点。多模态大模型卷到今日...……更多
2024-02-21 14:05:00劲敌,高产,模式,模型,上下文,处理
...希望一举打破英伟达的垄断地位。而AMD的MI300，在部署32K上下文窗口的GPT-4模型时，居然比H100效果更好？AI芯片大决战，即将来临！AI硬件开发商初创公司的未来会怎样？Tenstorrent CEO David Bennett直言不讳地表示，在我们这个行业，...……更多
2023-11-06 15:12:00英伟,大决战,芯片,性能,英伟,芯片
大模型的上下文长度快速增长，超长上下文解锁新应用，但推理计算代价高昂，上下文本身对于信息不会进行压缩，不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年，人工智能领域风起...……更多
2024-03-25 10:53:00林达,模型,之路,结构,发展,模型
...此类新功能构建的Copilot现在可以利用内存和知识来获取上下文信息、推理操作和输入、根据用户反馈进行学习并在遇到不知道如何处理的情况时寻求帮助，从而独立管理复杂、长期运行的业务流程。AzureAIStudio现已支持提供GPT-4oA...……更多
2024-05-22 20:01:00微软,微软,纳德拉,纳德,模型,功能
...T的DCLM，DCLM-7B模型又进一步过滤出其中的2.5T用于训练。
上下文长度为2048，小于Mistral 7B和Gemma 2 9B的8k长度。性能方面，作者直接使用评估套件LLM Foundry，测试了模型在53个基准任务上的分数。与其他模型进行比较时，除了MMLU分...……更多
2024-07-22 09:41:00血战,强势,模型,苹果,模型,数据
...层的参数占到了相当大的比例。比如，125M模型中要使用上下文长度32k、维度512的编码，输入和输出编码层就包含了16M的参数，占比达到20%。相较之下，大模型的编码层参数量显得微不足道。比如LLaMA-7B中，这个比例就下降到了3.7...……更多
2024-07-23 09:39:00模型,性能,移动,模型,参数,架构
...有效地捕获其关系。这种通过比较文本中每个token来理解上下文的方式，需要更多的计算能力和内存来处理不断增长的上下文窗口。如果资源没有相应扩展，推理速度会变慢，最终无法处理超过某个固定长度的文本。为了解决这...……更多
2024-08-14 09:43:00一鸣,霸主,模型,再次,模型,序列
...模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。百川智能称，Baichuan2-192K是目前全球最长的上下文窗口，也是目前支持长上下文窗口最优秀大模型Claude2（支持100K上下文窗...……更多
2023-10-30 15:02:00王小川,王小,上下文,模型,上下,焦点
...任务中展现了广泛的适用性。模型只需快速微调就能适应上下文，可以无缝部署在各种场景中。
可扩展性：OpenCity展示了有希望的缩放定律，表明该模型有潜力在最小的额外训练或微调需求下有效地扩展和适应新的、以前未见过...……更多
2024-09-02 13:34:00路况,样本,模型,交通,交通,模型
...每个单词（或 token）与文本中的每个单词进行比较来理解上下文，它需要更多的计算能力和内存需求来处理不断增长的上下文窗口。但是如果不相应地扩展计算资源，模型推理速度就会变慢，超过一定长度的文本就没法处理了。...……更多
2024-08-14 09:39:00力大,架构,模型,模型,架构,训练
...代码能力和数学能力专项的继续训练模型。全球最长200K上下文窗口Yi-34B模型将发布全球最长、可支持200K超上下文窗口(contextwindow)版本，可以处理约40万汉字超文本输入。上下文窗口是大模型综合运算能力的金指标之一，对于理...……更多
2023-11-06 15:25:00阿里,万物,模型,评测,冠军,全球
...k。如今，马斯克更新到Grok 1.5模型。新一代模型实现了长上下文理解和高级推理能力，计划将在未来几天内向早期测试人员和 X 平台（前 Twitter）上的现有 Grok 用户提供。具体来说，首先，Grok-1.5 最明显的改进之一是其在代码和...……更多
2024-03-31 04:00:00估值,美金,要闻,芯片,高达,性能
...工作信息，开不完的会议。而现在，通过Recall，提供几句上下文，就可以迅速找到桌面上任何内容。比如寻找自己与好友Renat乘车旅行的照片，在搜索栏中，给出提示，Recall便会提供相匹配的结果。不仅仅是电脑的文件，包括你...……更多
2024-05-21 13:47:00微软,装进,全家,全世界,苹果,微软
谷歌大改Transformer，“无限”长度上下文来了。现在，1B大模型上下文长度可扩展到1M（100万token，大约相当于10部小说），并能完成Passkey检索任务。8B大模型在500K上下文长度的书籍摘要任务中，拿下最新SOTA。这就是谷歌最新提...……更多
2024-04-14 02:57:00大内,机制,上下文,模型,处理,上下
...质量令人着迷。总结：谷歌可能找到了某种新方法，将长上下文的架构理念与他们的 TPU 计算堆栈相结合，并取得了很好的效果。据 Gemini 长语境的负责人之一Pranav Shyam说，这个想法几个月前才刚刚萌芽。如果以小版本（v1.5）而...……更多
2024-02-17 19:48:00上下文,新贵,上下,世界,模型,视频
...发者提供了前段时间在I/O大会上官宣的Gemini 1.5 Pro的200万上下文窗口访问权限、Gemini API的代码执行功能，并在Google AI Studio中添加了Gemma 2。在最新的博客中，谷歌宣布向所有开发者开放了Gemini 1.5 Pro的200万token上下文窗口访……更多
2024-06-29 09:37:00诚意,经济,模型,训练,性能,注意力
...antization)
最大序列长度为8,192个数据单元，以处理更长的上下文信息纽约时报点评道，开源Gork背后的原始代码，是这个世界上最富有的人控制AI未来战斗的升级。Meta CEO扎克伯格刚刚也对Grok做出了评价：“并没有给人留下真正深...……更多
2024-03-20 13:44:00马斯,马斯克,模型,全球,马斯,马斯克
...ama 3已经开放了80亿（8B）和700亿（70B）两个小参数版本，上下文窗口为8k。Meta表示，通过使用更高质量的训练数据和指令微调，Llama 3比前代Llama 2有了“显著提升”。未来，Meta将推出Llama 3的更大参数版本，其将拥有超过4000亿参...……更多
2024-04-19 15:58:00分水,分水岭,模型,参数,社区,模型
...议，在使用语言模型输出时应格外小心，特别是在高风险上下文中，使用符合特定用例需求的确切协议（如人工审查、附加上下文的基础或完全避免高风险使用）。不过，GPT-4相对于以前的模型显著减少了幻觉。在OpenAI的内部对...……更多
2023-03-15 21:00:00单词,输出,性能,模型,文本,语言
...将具备多步骤推理能力。来源：谷歌谷歌的Gemini以超长的上下文窗口而出名。在大会上，谷歌重点强调了大模型Gemini 1.5 Pro的多模态和长文本能力，为其推出一系列更新。谷歌将向全球150多个国家地区的Gemini Advanced订阅者提供最...……更多
2024-05-15 09:54:00文生,模型,模态,全家,助手,视频
...大方面更新重点值得关注和思考。1、GPT-4 Turbo：支持128k上下文，相当于300页文档，输入价格大降2/3，速率限制翻倍，知识更新到2023年4月，改进指令跟随和JSON Mode，更新多个函数调用能力。这意味着比GPT-4更强、更便宜、开发成...……更多
2023-11-07 17:45:00上下文,史诗,模型,上下,更新,价格
现在，长上下文视觉语言模型（VLM）有了新的全栈解决方案 ——LongVILA，它集系统、模型训练与数据集开发于一体。现阶段，将模型的多模态理解与长上下文能力相结合是非常重要的，支持更多模态的基础模型可以接受更灵活...……更多
2024-08-22 09:51:00英伟,准确率,支持,视频,序列,训练
...LM 中，显式记忆是继隐式记忆（模型参数）和工作记忆（上下文键值）之后的第三种记忆形式。
具体而言，本文引入了一种新的记忆格式，即显式记忆，其特点是写入成本和读取成本相对较低。如图 1 所示，模型首先将知识库...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...的改动最受不了的应该就是右键了，win11是大改了，改成上下文层叠式的，很多选项需要第二次点击才会出现，整体体验让人很不爽。上下文菜单是微软win11系统的一项核心改进，但是改了之后它会导致性能下降，部分硬件上点...……更多
2023-01-11 10:44:00微软,菜单,性能,问题,微软,问题
...nsformer 的模型关注与输入序列相关的部分，实现了更好的上下文理解。然而，注意力机制的缺点是计算开销大，会随输入规模而二次增长，Transformer 也因此难以处理非常长的文本。前段时间，Mamba 的出现打破了这一局面，它可以...……更多
2024-09-03 09:59:00线性,新作,混合,作者,模型,线性
...据集：LooGLE，专门用于测试和评估大语言模型（LLMs）长上下文理解能力。该数据集既能够评估LLMs对长文本的处理和检索能力，又可以评估其对文本长程依赖的建模和理解能力。结果不评不知道，一评估发现这些模型在复杂的长...……更多
2024-08-08 09:39:00基准,北大,生成,模型,文本,评估
...性能相比上一代大幅提升，逼近GPT-4。它可以支持更长的上下文，具备更强的多模态能力。同时，它的推理速度更快，支持更高的并发，大大降低推理成本。除此之外，GLM-4大幅提升了智能体能力，GLM-4 All Tools 实现自主根据用户...……更多
2024-02-04 14:00:00司南,基座,前列,新一代,模型,评测
...两个字母。在多次请求后，你都没有做出任何澄清或说明上下文，我无法继续进行富有成效的讨论了。如果你有真正的问题或希望解释你的观点，我可以提供帮助。否则，我们可能需要换一个话题最后，小哥承认，自己的prompt是...……更多
2024-09-09 13:36:00小哥,原地,外国,论文,小哥,研究者
...理解能力：74.8分的成绩证明了其在理解复杂语言结构与上下文含义方面的能力，排名国内前五。 从容大模型在与全球顶级模型GPT-4的直接对决中，取得了20.79%的对战胜率，这一成绩仅次于Claude3-Opus，进一步验证了其在实际应用...……更多
2024-08-09 15:00:00模型,梯队,中国,从容,科技,模型
更多关于科技的资讯：
9月14日消息，工信部昨天发布的《道路机动车辆生产企业及产品公告》（第387批）中，奇瑞瑞虎7/瑞虎7C-DM两款车型完成申报
2024-09-16 02:29:00
9月14日消息，东风风行今天宣布星海S7纯电版轿车将于9月26日正式上市。该车定位为中大型轿车，最高续航里程555公里
2024-09-16 02:30:00
9月14日消息，育碧今年的大作《刺客信条：影》即将于11月发售，这款日本开放世界冒险游戏承诺将带来迄今为止最雄心勃勃的《刺客信条》体验
2024-09-16 02:33:00
9月14日消息，vivoY300Pro手机今日开启首销，提供钛色、金镶玉、羊脂白、墨玉黑4种配色可选，官方正价1799元起
2024-09-16 02:33:00
9月14日消息，小米米家洗衣机精护洗Pro洗烘10kg今晚8点在京东平台开售，新品首发价2999元，以旧换新至高抵850元
2024-09-16 02:36:00
9月14日消息，猫头鹰Noctua官方B站账户向IT之家证实，该企业已对旗舰风冷散热器新品NH-D15G2顶部鳍片连锁松动问题进行了修复
2024-09-16 02:36:00
9月14日，联想最新发布了一款名为拯救者Y700的高性能平板。这款新机仍保持了其小巧的8英寸机身，成为安卓市场上唯一的小尺寸性能平板
2024-09-16 02:43:00
在上海举行的兰博基尼汽车SuperTrofeoAsia2024活动上，小米中国区市场部副总经理、Redmi品牌总经理王腾透露了小米与兰博基尼即将推出的新合作项目
2024-09-16 02:43:00
7月22日的天选2024夏季新品发布会上，华硕发布了2款天选系列笔记本新品，一款是主打轻薄全能的天选Air2024，另一款则是主打高阶游戏体验的天选锐龙AI版
2024-09-16 02:44:00
9月14日消息，专业存储厂商iodyne北京时间本月10日介绍了将于2025年一季度推出的ProMini移动固态硬盘，并称呼其是“最为智能的移动存储”
2024-09-16 02:47:00
厦门网讯 （厦门日报记者 汤海波）随着第二十四届中国国际投资贸易洽谈会的顺利举办，负责布展的从业人员，再度进入大众的视野
2024-09-16 08:26:00
中秋佳节，世茂Emall节日氛围浓。（厦门日报记者 张奇辉 摄）厦门网讯 （厦门日报记者 沈彦彦）昨天，是今年中秋假期的第一天
2024-09-16 08:26:00
从《黑神话：悟空》火遍全球，到比亚迪等汽车品牌世界范围热卖，如今的中国制造已成为创新和品质的代名词，越来越多的消费者成为了国货品牌的忠实拥趸
2024-09-16 08:40:00
中秋如约而至。天涯共此时，一轮明月承载的，有团圆相聚，亦有牵挂相思。2024年，杭州市新就业群体活跃人数约20万人。其中
2024-09-16 09:40:00