- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...语言模型 (LM) 在各种任务上取得了重大进展，但在训练和推理方面，性能和成本之间仍然需要权衡。对于许多学者和开发人员来说，高性能的 LM 是无法访问的，因为它们的构建和部署成本过高。改善成本 - 性能的一种方法是使...……更多
2024-09-06 10:01:00推理,模型,成本,参数,模型,训练
...凡的性能而获得了前所未有的关注。然而， LLM 的训练和推理成本高昂，人们一直在尝试通过各种优化方法来降低成本。本文来自上海算法创新研究院、北京大学等机构的研究者受人类大脑记忆层次结构的启发，他们通过为 LLM ...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...算效率和算力开销两大问题成为新的行业焦点。对大模型推理成本的优化，可通过很多技术手段实现。首先是模型本身，模型结构、训练方法都可以持续改进，包括业界很关注的MoE(混合专家模型)，就是优化推理成本很好的解决...……更多
2024-06-03 14:07:00模型,效率,成本,模型,推理,成本
...万维宣布开源2千亿稀疏大模型Skywork-MoE，性能强劲，同时推理成本更低。Skywork-MoE基于之前昆仑万维开源的Skywork-13B模型中间checkpoint扩展而来，是首个完整将MoE Upcycling技术应用并落地的开源千亿MoE大模型，也是首个支持用单台409...……更多
2024-06-03 20:59:00万维,昆仑,模型,模型,万维,昆仑
...在MMLU（多任务语言理解）、Knowledge（知识）、Reasoning（推理）、Comprehension（理解）等关键指标上均超越了Meta Llama 2的13B模型。这一个故事，在2024年2月1日的发布会上，也被AI模型层公司面壁智能的CEO李大海不断提起。对标Mistral..……更多
2024-02-03 16:03:00适配,推理,模型,主流,成本,智能
...，MoE在训练过程通过门控模型实现“因材施教”，进而在推理过程实现专家模型之间的“博采众长”。 图1MoE架构原理示意图1MoE的特征优势是专家化、动态化、稀疏化，在模型研发成本、训练/推理效率和整体性能之间实现最佳...……更多
2024-11-04 16:00:00研究方向,模型,现状,方向,趋势,研究
...码仓库 Trending Research 第一位。为了赋予机器人端到端的推理和操纵能力，本文创新性地将视觉编码器与高效的状态空间语言模型集成，构建了全新的 RoboMamba 多模态大模型，使其具备视觉常识任务和机器人相关任务的推理能力，...……更多
2024-06-21 09:52:00机器,模态,人多,机器人,推理,北大
...类型的信息：- 仅输入和输出文本，也就是少样本学习- 推理追踪：添加中间推理步骤，可参阅思维链（COT）提示- 计划和反思追踪：添加信息，教LLM计划和反思其解决问题的策略，可参阅ReACT
选择正确的适配方法要决定上述哪...……更多
2024-08-27 12:03:00小白,长文,千字,基础,指南,训练
...处理和代码生成领域的强大实力。不仅如此，其在对逻辑推理能力及专业性要求极高的MCMLE、MedExam、CMExam等权威医疗评测上的中文效果同样超过了GPT-4，是中文医疗任务表现最佳的大模型。Baichuan3还突破“迭代式强化学习”技术...……更多
2024-01-29 19:57:00百川,模型,语言,智能,模型,百川
...。本次新上线了包括：模型训练新基座，支持模型训练、推理、量化、评测等功能。 卓世科技MaaS平台是一款基于知识增强大模型的一站式行业模型训练开发平台。面向开发者和企业提供从基础算力服务、数据服务、模型训练服...……更多
2024-08-07 09:45:00模型,服务,平台,科技,模型,数据
...十亿左右。“做大”，能让大模型具备更强的涌现能力和推理能力，从而适用于难度更高的任务。“做小”，能让大模型获得更优秀的推理能力，从而能被部署到手机、手表、耳机、录音笔等各类小微终端之中。情景学习（ICL，...……更多
2024-03-01 09:36:00模型,范式,科学家,情景,能力,科学
... OpenAI 在大语言模型领域的新尝试，也可能是对人工智能推理能力一次新的革命性提升。根据目前流出的信息来看，相比以往的 GPT 模型，「草莓」在处理复杂问题、执行多步骤任务方面展现出前所未有的潜力，使其成为通用人...……更多
2024-09-12 09:49:00推理,草莓,定价,能力,项目,草莓
...以通过语音识别技术被录入到病例系统中，随后大模型AI推理技术辅助进行智能总结和诊断，医生们撰写病例的效率显著提高。AI推理的应用不仅节省了时间，也保护了患者隐私；在法院、律所等业务场景中，律师通过大模型对...……更多
2024-07-11 16:45:00正在,时代,模型,推理,英特,英特尔
大模型预训练“缩放定律”定律失效？模型推理成“解药”，英伟达一家独大格局要变天？“缩放定律”指导下，AI大模型预训练目前遭遇瓶颈。据路透12日报道，硅谷主要AI实验室的新模型训练计划目前普遍进展不顺，新模型...……更多
2024-11-13 14:09:00英伟,争论,逻辑,意味,根本,策略
...到100B模型性能的「跨级」跃升。同时训练时间减少30%，推理性能提升100%，使每token成本大幅下降。在多个权威评测中，元象MoE效果大幅超越多个同类模型。包括国内千亿MoE模型 Skywork-MoE、传统MoE霸主Mixtral-8x22B 以及3140亿参数的Mo...……更多
2024-09-18 13:36:00中国,商用,模型,参数,模型,专家
...支持128k上下文长度。Phi-3.5-mini-instruct主要面向基础快速推理任务，Phi-3.5-MoE-instruct可胜任复杂推理任务，Phi-3.5-vision-instruct则兼具文本与视觉能力。性能最强大的Phi-3.5-MoE-instruct模型有419亿个参数，……更多
2024-08-22 09:49:00上下文,微软,架构,模型,上下,性能
...用于自身业务优化并对外开放合作。
大模型分为训练和推理两个过程，前者将大模型训练成型，后者即为应用。由于训练大模型需极大算力，开发成本高昂，业界多有关于不需“重复造轮”的讨论。例如，入场做大模型后，百...……更多
2023-10-14 00:21:00百川,阿里,前奏,模型,领域,智能
...The」。完整的回复，花了整整20个小时熟悉模型的训练和推理的朋友都知道，这些事情一点都不奇怪。集群搭建（GPU配置、网络设计、轨道优化等）、集群管理（实时监控、故障排除等）……个个都是「拦路虎」。对于缺乏相关...……更多
2024-08-02 09:47:00大厂,模型,参数,疯狂,服务器,服务
...型，MoE模型在相同成本下效果更优，在相同规模下训练/推理成本更低，而且容量大，可训练更多数据。当前MoE的挑战有训练稳定性差、专家负载不均衡等。
一些应对方案包括：1）Scaling Law探索，设计基于中小模型簇的MoE Scaling ...……更多
2024-11-06 09:41:00模型,腾讯,全家,生成,同时,语言
...含四个主要任务：信息抽取、信息定位、定性分析和数值推理。不同于现有的长文本基准测试，”企鹅卷轴”有以下几个优势：数据多样性：”企鹅卷轴”包含了各种真实场景下的长文本，如财务报告、法律文档、学术论文等，...……更多
2024-11-07 09:54:00腾讯,商用,模型,参数,模型,数据
...精度，还显著降低了计算负担，完美解决了时序大模型在推理阶段的计算瓶颈。2. 灵活的预测范围：Time-MoE支持任意长度的输入和输出范围，能够处理从短期到长期的各种时序预测任务，实现了真正的全域时序预测。3. 全球最大...……更多
2024-10-23 09:55:00时序,模型,团队,训练,参数,突破
...并发、技术自主可控方面具有优势的新选择。AI大模型在推理侧的新机遇与RISC-V创新架构具有的可扩展性、可编程性、超大规模等优势特点不谋而合。技术和场景应用的双重优势下，希姆计算的大模型一体机能支撑企业将基座模...……更多
2023-11-15 15:41:00模型,一体机,推理,快车,芯片,一体
... Yi-1.0 的持续预训练版本，使用 500B 个 token 来提高编码、推理和指令执行能力，并在 300 万个指令调优样本上进行了精细调整。刚一发布，就已经有开发者跃跃欲试：并收获了好评：
与前序模型相比，Yi-1.5 系列模型进一步提升...……更多
2024-05-14 09:56:00万物,模型,国产,再次,排行榜,模型
...发成功一款命名为“空天·灵犀”的遥感智能训(训练)推(推理)一体机。“空天·灵犀”遥感智能训推一体机。中国科学院空天院 供图“空天·灵犀”遥感智能训推一体机搭载的高精度、高时效轻量化基础模型，能够在自然资源、...……更多
2023-10-27 16:57:00空天,智能,遥感,人工智能,一体机,中国
...然而，遥感单幅影像幅宽大、基础模型参数规模大，导致推理速度与应用场景较为受限。近日，中国科学院空天信息创新研究院（空天院）科研团队基于自主研制的遥感智能解译基础模型，联合国内相关研发机构，共同研发出“...……更多
2023-10-27 11:57:00遥感,一体机,模型,科研,一体,突破
... 2此次提供的90亿（9B）和270亿（27B）参数的两个版本，其推理性能和效率均优于第一代，并具有显著的安全性改进。事实上，270亿参数版本可以与体积超过其两倍的模型进行同等级别的竞争，并且提供了此前只有专有模型才能实...……更多
2024-06-29 09:37:00诚意,经济,模型,训练,性能,注意力
...闭源的商业模型会配套相应的工具链，包括训练工具链、推理工具链，这些工具链的性能要比开源的好，对于客户来说，训练就能省大概10~20%的硬件成本，推理的时候省得更多，业务规模越大，省得越多。第二层，看模型带来的...……更多
2024-08-28 09:44:00业内人士,模型,业内,根本,人士,成本
...Hot Chips 2024大会上，Cerebras Systems详细介绍了这款芯片在AI推理方面的性能。根据官方资料显示，WSE-3依然是采用了一整张12英寸晶圆来制作，基于台积电5nm制程，芯片面积为46225平方毫米，拥有的晶体管数量达到了4万亿个，拥有90...……更多
2024-09-02 13:36:00晶圆,芯片,生成,模型,性能,参数
... Meta 对 Llama 模型来了一波大更新：不仅推出了支持图像推理任务的新一代 Llama 11B 和 90B 模型，还发布了可在边缘和移动设备上的运行的轻量级模型 Llama 3.2 1B 和 3B。不仅如此，Meta 还正式发布了 Llama Stack Distribution，其可……更多
2024-09-27 13:42:00推理,可在,图像,运行,版本,支持
...，零一万物CEO李开复接受采访时表示：“未来整个行业的推理成本每年降低10倍是可以期待的，而且这个趋势是必然的。”未来，大模型的成本将呈阶梯状下探，但目前大模型的价格却断崖式下探，甚至部分企业免费送，降价幅...……更多
2024-06-05 10:57:00模型,厂商,模型,企业,成本,商业
更多关于科技的资讯：
随时“云端”办公，自由“安放”工位，数字游民社区兴起数字游民在南京：我推着房间找邻居南京首个乡村数字游民社区坐落于浦口草圣书乡景区
2025-09-26 08:14:00
三迭纪项目入选国家药监局智慧监管典型案例年产3亿片！3D打印药片，片片皆可溯源南报网讯（通讯员唐斐记者张希）近日，国家药品监督管理局信息中心正式公布“2025年药品智慧监管典型案例”
2025-09-26 08:14:00
二〇二五年中国香料香精化妆品精品博览会启幕十七个香妆产业创新转化项目签约南报网讯（记者夏思宇）9月25日上午，2025年中国香料香精化妆品精品博览会在南京扬子江国际会议中心开幕
2025-09-26 08:15:00
厦门网讯（厦门日报通讯员 李汶鸿）24日，在上海市普陀区普熙金融广场PUSH艺术中心举办的“数字人民币国际运营中心业务平台推介会”上
2025-09-26 08:38:00
在智能语音机器人赛道，技术稳定性与迭代能力是核心竞争力，神州泰岳旗下鼎富智能avavox大模型语音机器人依托两大技术优势
2025-09-26 08:52:00
近日，烟台联通在客户日活动中面向VIP客户创新开展急救知识培训公益增值服务，邀请中国红十字会专业急救讲师现场授课，通过“理论+实操”相结合的方式
2025-09-26 09:24:00
近日，由中交一公局集团建筑公司武清城改项目申报的《BIM+智能设备在大型城中村改造项目施工阶段的应用》凭借在特大型群体住宅工程的应用实践
2025-09-26 10:49:00
中新经纬9月26日电 9月25日，小米集团创始人、董事长兼CEO雷军在年度演讲上回顾了小米汽车造车历程。雷军提到，今年6月
2025-09-26 10:54:00
近日，头部房产经纪企业我爱我家正式启动主题为“好邻·好礼·好生活”的2025我爱我家社区好邻节。据介绍，本次活动从9月22日至10月31日
2025-09-26 11:24:00
9月25日，小米公司创始人雷军在年度演讲中宣布推出一项独特的服务——小米定制服务。雷军表示，小米YU7是为一群高审美，无法容忍平庸的人设计的
2025-09-26 11:37:00
9月25日，在年度演讲暨秋季新品发布会上， 小米推出了首款三区洗衣机——米家三区洗衣机Pro 滚筒10kg，售价3999元
2025-09-26 11:38:00
华为鸿蒙折叠电脑MateBook Fold非凡大师的上市成为改写高端笔记本市场格局的关键事件。根据GFK 2025年6月统计
2025-09-26 11:38:00
鲁网9月26日讯（记者 李晓晨）从算力之巅的超级计算中心到家庭智能的创新终端，从芯片封装的关键环节到水处理技术的自主研发
2025-09-26 12:03:00
在摄影配件行业，“速生速死” 是常态 —— 产品迭代快、价格战频发，多数企业陷入内卷困境。而深圳市唯迹科技有限公司却走出了一条 “反常识” 的发展路径
2025-09-26 12:07:00
让AI规划假期行程，告别烧脑做攻略比价；戴上耳机，和自己的专属AI讲解员一起边逛边聊，拍展品听讲解，拍景点听典故，拍建筑听历史……这种全新的旅行体验
2025-09-26 12:08:00