- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...Mamba模型，并且设计了新的推测解码算法，加速了模型的推理。先来看一张其乐融融的图片（一眼AI）：右边的小羊驼代表Llama，而左边的蛇（Mamba）也是我们的老熟人了。至于到底能不能其乐融融，咱就不管了，之所以有此场景...……更多
2024-09-06 10:01:00推理,更快,性能,模型,输出,训练
...凡的性能而获得了前所未有的关注。然而， LLM 的训练和推理成本高昂，人们一直在尝试通过各种优化方法来降低成本。本文来自上海算法创新研究院、北京大学等机构的研究者受人类大脑记忆层次结构的启发，他们通过为 LLM ...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...元导读】史上最快Transformer芯片诞生了！用Sohu跑Llama 70B，推理性能已超B200十倍，超H100二十倍！刚刚，几位00后小哥从哈佛辍学后成立的公司Etached，宣布再融资1.2亿美元。有史以来最快的Transformer芯片，刚刚诞生了？去年21岁哈佛...……更多
2024-06-27 09:25:00小哥,英伟,哈佛,华裔,推理,芯片
...类型的信息：- 仅输入和输出文本，也就是少样本学习- 推理追踪：添加中间推理步骤，可参阅思维链（COT）提示- 计划和反思追踪：添加信息，教LLM计划和反思其解决问题的策略，可参阅ReACT
选择正确的适配方法要决定上述哪...……更多
2024-08-27 12:03:00小白,长文,千字,基础,指南,训练
...同时，GLM-4 支持了更长的上下文、更强的多模态、更快的推理速度，以及更多并发请求，大大降低了推理成本。在此基础上发展出的 GLM-4-Flash，则带来了一系列技术优势：数据预训练：引入大语言模型进入数据筛选流程，使用 10...……更多
2024-08-28 09:43:00真香,模型,模型,能力,应用,开发
...些解答或慢点思考。OpenAI ο1 模型的发布掀起了人们对 AI 推理过程的关注，甚至让现在的 AI 行业开始放弃卷越来越大的模型，而是开始针对推理过程进行优化了。今天我们介绍的这项来自 Meta FAIR 田渊栋团队的研究也是如此，其...……更多
2024-10-17 09:47:00优势,规划,推理,轨迹,模型,慢速
...比，苹果已用Amazon Graviton、Inferentia等AWS芯片在机器学习推理工作负载方面实现了40%以上的效率提升，并预计在Trainium 2上预训练模型时，效率将提高50%。被亚马逊豪掷80亿美元投资的Anthropic，宣布与AWS共同构建面向机器学习训练...……更多
2024-12-05 09:47:00亚马,亚马逊,芯片,模型,训练,服务器
...PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。试问，有多少机器学习小白曾被深度学习框架和CUDA的兼容问题所困扰？又有多少开发者曾因为频频闪烁的警报「CUDA版本必须与...……更多
2024-09-07 09:48:00新时代,推理,内核,矩阵,乘法,英伟
...震。o1 能像人类一样「思考」复杂问题，拥有优秀的通用推理能力。在未经专门训练的情况下，o1 能够直接拿下数学奥赛金牌，甚至能在博士级别的科学问答环节上超越人类专家。在性能跃升之外，更重要的是，它揭示了大模型...……更多
2024-10-21 09:55:00英伟,霸主,推理,模型,地位,时代
...码仓库 Trending Research 第一位。为了赋予机器人端到端的推理和操纵能力，本文创新性地将视觉编码器与高效的状态空间语言模型集成，构建了全新的 RoboMamba 多模态大模型，使其具备视觉常识任务和机器人相关任务的推理能力，...……更多
2024-06-21 09:52:00机器,模态,人多,机器人,推理,北大
...小的 8B 版本可能也依然会有明显延迟。为了提升模型的推理效率，研究者想出了多种多样的方法，但其中很多都会让模型牺牲一些准确度。近日，苹果和 Meta AI 的一个研究团队提出了一种新方法，可在保证准确度不明显下降的...……更多
2024-08-05 09:35:00准确度,更快,模型,苹果,缓存,模型
...78%～90%。
检索增强（retrieval-augmented）的语言模型可以在推理时检索并集成外部知识源，从而缓解上述问题。然而，许多此类系统依赖于黑盒API或通用的LLM ，既没有针对文献综合的任务进行优化，也没有搭配适合科研的开放式...……更多
2024-11-27 13:33:00神器,文献,效率,科研,学术,模型
...示了Yi-Lightning在不同场景上的能力。Yi-Lightning主打一个“推理速度更快，生成质量更好”。相比上半年Yi-Large，Yi-Lightning首包速度提升1倍，推理速度也提升了4成。像是翻译下面这种文学作品，Yi-Lightning不仅速度更快：而且用词...……更多
2024-10-17 09:48:00竞技场,万物,模型,国产,竞技,模型
...为可以吃到4位（INT4/FP4）内核的计算红利，实现了更快的推理速度。BitNet a4.8仅激活55%的参数，并支持3 bit KV cache，进一步提升了大规模LLM部署和推理的效率。BitNet a4.8模型架构模型的整体架构如图1所示，BitNet a4.8采用了与BitNet b……更多
2024-12-06 09:55:00架构,激活,新一代,模型,突破,激活
...例如，OCRBench）的性能，但与低分辨率版本模型相比，在推理相关任务（例如，MMMU）上的准确率却会下降。此外，虽然开源的多模态大模型在视觉-语言任务上取得了非常亮眼的基准测试结果，但在纯文本任务上的性能却有显著...……更多
2024-09-24 13:36:00英伟,模态,文本,性能,模态,模型
... 和 ChartQA，它们不仅需要理解，还需要对图表进行强大的推理能力。对于这两个基准，PaLI-3 稍微落后于 PaLI-X。另外，研究人员还扩展了 PaLI-3 的功能，使其能够通过语言类似的输出来预测分割遮罩。实验结果表明，对于这种类...……更多
2023-10-17 16:31:00更快,模型,视觉,语言,训练,模型
...以通过语音识别技术被录入到病例系统中，随后大模型AI推理技术辅助进行智能总结和诊断，医生们撰写病例的效率显著提高。AI推理的应用不仅节省了时间，也保护了患者隐私；在法院、律所等业务场景中，律师通过大模型对...……更多
2024-07-11 16:45:00正在,时代,模型,推理,英特,英特尔
苹果新论文：AI 大模型可能不会推理。AI 大模型（LLM）真的像我们理解的那样能「思考」或「推理」吗？最近，苹果的一篇论文探讨了这个问题，并且给出了一个倾向于「否」的答案。相关帖子被很多人围观。这篇题为「GSM-Symb...……更多
2024-10-14 09:55:00数学题,推理,废话,苹果,数学,小学
...被展示过了，但我喜欢你添加的新细节，特别是强调了“推理”类任务比其他任务受影响更大！还有不少学者、工程师也表示强烈推荐。敢打赌，其中一些见解最终将会用于改进Transformer。
其中的实验再次证实了：复制层对创...……更多
2024-07-27 09:29:00流动,机制,研究,信息,中间层,顺序
...方面尤其出色。GPT-4o可以在音频、视觉和文本中进行实时推理，接受文本、音频和图像的任何组合作为输入，并生成文本、音频和图像的任何组合进行输出。它可以最短在232毫秒内响应音频输入，平均为320毫秒，这与人类在对话...……更多
2024-05-14 16:45:00本实,和文,推理,新品,音频,对话
...，大模型能根据任务复杂度进行不同时间的思考。不限于推理性的逻辑或数学任务，一般问答也能思考的那种。最近畅销书《Python机器学习》作者Sebastian Raschka推荐了一项新研究，被网友们齐刷刷码住了。论文一作为华人学者Tian...……更多
2024-10-29 09:58:00高徒,偏好,模型,过程,基线,偏好
...围内吗？能在智能手机或传感器这些边缘设备上进行本地推理吗？要回答这些问题，我们需要重新思考AI模型的工作和训练方式，尤其是要转换视角，首先考虑底层硬件的物理约束。或许，物理神经网络PNN（physical neural network）...……更多
2024-07-15 09:33:00康奈尔,康奈,耶鲁,剑桥,变革,模型
...常高效在测试时，循环序列模型会按顺序推出，从而使其推理更为高效。相反，传统 RNN 的瓶颈在于其训练，需要线性训练时间（通过时间反向传播），这导致其最终被淘汰。人们对循环序列模型重新产生兴趣，是因为许多新的...……更多
2024-10-15 09:56:00图灵奖,图灵,得主,新作,序列,训练
...云推出全面升级的GPU云服务，通过全新优化GPU套件，多GPU推理服务性能可最大提升100%。针对调用GPU算力最常用的容器技术，阿里云推出ACK云原生AI套件，帮助开发者及企业更高效地开发和部署AI应用，加速大模型应用落地。随着A...……更多
2024-07-19 17:21:00阿里,推理,模型,性能,升级,服务
...代表Omni，也就是“全能”的意思。据介绍，GPT-4o文本、推理、编码能力达到GPT-4 Turbo水平，速度是上一代AI大模型GPT-4 Turbo的两倍，但成本仅为GPT-4 Turbo的一半，视频、音频功能得到改善。OpenAI CEO奥尔特曼（Sam Altman）在博客中表...……更多
2024-05-14 14:39:00实测,人机,更快,模型,成本,速度
... 2此次提供的90亿（9B）和270亿（27B）参数的两个版本，其推理性能和效率均优于第一代，并具有显著的安全性改进。事实上，270亿参数版本可以与体积超过其两倍的模型进行同等级别的竞争，并且提供了此前只有专有模型才能实...……更多
2024-06-29 09:37:00诚意,经济,模型,训练,性能,注意力
...模型，一举创造了很多历史记录。o1 模型拥有真正的通用推理能力。在一系列高难基准测试中展现出了超强实力，相比 GPT-4o 有巨大提升，让大模型的上限从「没法看」直接上升到优秀水平，不专门训练直接数学奥赛金牌，甚至...……更多
2024-09-25 09:48:00饱和,规划,模型,测试,规划,能力
...小尺寸版o1-mini。OpenAI官方发文称，新模型旨在解决复杂推理问题，训练模型在响应之前花更多时间思考，类似于人类的思考方式。“新模型在推理能力上代表了AI能力的新水平。”OpenAI称，该模型可以解决科学、编程和数学等更...……更多
2024-09-13 16:44:00复旦,相关性,概率,推理,模型,教授
...本更低。能解决迷宫、推箱子等复杂问题。通过让模型在推理轨迹和最终答案上进行训练，再基于特定策略丢掉部分轨迹，Dualformer模型可以在模仿慢思考的同时，像快思考一样走捷径。由此能形成更简洁的思维链（CoT）。从结...……更多
2024-10-18 09:51:00推箱子,快慢,迷宫,整合,团队,推理
...ta 提出“可持续思维链”：让大语言模型在连续潜空间中推理GameArena：通过实时电脑游戏评估 LLM 推理想要第一时间获取每日最新大模型热门论文？ 点击阅读原文，查看「2024必读大模型论文」合集，以及申请加入「大模型技术...……更多
2024-12-13 09:19:00推理,模型,思维,空间,模型,生成
更多关于科技的资讯：
最近关于RTX50系显卡的消息越来越多，特别是移动版的跑分数据出现在网络上，对于现在要不要买游戏本这个问题，有很重要的作用
2025-01-03 20:15:00
快科技1月3日消息，小米公司宣布，海底捞首家北京企业火锅店昨日在小米科技园落地开业！官方表示，把海底捞引入小米科技园，小米花了近三年时间
2025-01-03 20:15:00
快科技1月3日消息，小米日前推出了爆款百元级——Redmi 14C，起售价仅499元，这价格真的无懈可击了。其前作Redmi 12C
2025-01-03 20:45:00
1月3日消息，据媒体报道，近日宁夏银川永宁县发生4.8级地震，一餐饮店后厨阿姨在地震瞬间跑出去后，又返回关火，事后店主安排现金红包奖励这位工作负责
2025-01-03 20:45:00
1月3日消息，据国内媒体报道称，广东河源桂山路口就发生了一起严重的事故，一辆闯红灯通过路口的SUV车速不减，直接怼上了正常行驶大货车的后部
2025-01-03 21:15:00
快科技1月3日消息，iQOO Z9 Turbo长续航版正式开卖，起售价是1899元。对比Z9 Turbo，长续航版本的电池增大至6400mAh
2025-01-03 21:45:00
快科技1月3日消息，一汽-大众ID.4 CROZZ的2025款已正式上市，价格区间为14.99-18.59万元。据悉，新款车型在设计
2025-01-03 21:45:00
快科技1月3日消息，领克汽车销售有限公司副总经理穆军表示，领克900 EM-P将在相当长的一段时间内作为领克品牌的旗舰级产品
2025-01-03 21:45:00
快科技1月3日消息，2025年的第一场流星雨——象限仪座流星雨将于1月3日迎来极大，大家可在3日夜晚至4日黎明进行观测
2025-01-03 22:15:00
1月3日消息，据媒体报道，河北一名网友发布视频，有一家位于河北临漳某处十字路口的饭店名叫“涛的饭店”，因其独特的名字走红网络
2025-01-03 23:15:00
英特尔锐炫580上市以来销量喜人，虽然首发价定在了2000元以上，但是实际优惠价基本在1800-1900元附近，这个价格拿下一款2K分辨率流畅运行3A游戏
2025-01-03 23:15:00
今夕是何年，曾经的家用电子游戏机王者雅达利(Atari)就这么水灵灵地加入了即将到来的CES 2025，并将带来全新游戏掌机产品——Gamestation Go
2025-01-04 00:15:00
1月4日消息，据媒体报道，春节期间，哈尔滨热门景点旁的酒店一晚标价上千元，为了省钱，南方的网友盯上了景点旁边的房子，“换房过年”因此诞生
2025-01-04 00:15:00
随着城市化的快速发展，地下综合管廊已成为城市运转不可或缺的“隐形动脉”，承担着输送能源与信息的重要任务。济南市工业北路沿线工厂众多
2025-01-03 19:52:00
每次提到手机系统的时候，原生鸿蒙就被提及，原因是其证明了中国人独立自主、自力更生的强大精神力量，这也是华为品牌影响力能够得到很大幅度提升的关键
2025-01-03 19:58:00