- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...、性能、效果三者取得一个比较好的平衡点。京东云自研推理引擎，协同大小模型，为大模型产业落地提供最佳实践，如通过利用推测解码，用小模型辅助大模型进行推理，加速大模型推理速度，降低成本。在大模型应用开发上...……更多
2024-06-07 11:04:00云大,京东,落地,模型,场景,支持
...做个假设，如果把GPT-4（大约有1万亿参数）以50tokens/s的推理速度部署在生活中，你需要什么样的硬件？答案是1亿个H100 GPU。别说是移动设备了，家里都放不下。那如果降低标准，用LLaMA-v2 7B这样的模型，再加上8-bit量化呢？简单...……更多
2024-07-23 09:39:00模型,性能,移动,模型,参数,架构
...在MMLU（多任务语言理解）、Knowledge（知识）、Reasoning（推理）、Comprehension（理解）等关键指标上均超越了Meta Llama 2的13B模型。这一个故事，在2024年2月1日的发布会上，也被AI模型层公司面壁智能的CEO李大海不断提起。对标Mistral..……更多
2024-02-03 16:03:00适配,推理,模型,主流,成本,智能
...计算具备高算力低功耗的特性，能够加速AI大模型训练与推理。戴琼海提到，清华大学提出光电混合全模拟智能计算架构，研制ACCEL芯片，突破光电模数转换瓶颈。相比A100，ACCEL系统级算力提升3个数量级，能效提升6个数量级（百...……更多
2024-04-28 11:00:00大佬,清华,微软,重磅,北京,蚂蚁
...SIQA、HellaSwag、WinoGrande等多个数据集，来评估Yi的“常识推理能力”“阅读理解能力”“数学与代码能力”等多维度能力。Yi能力。结果显示，Yi-6B在常识推理能力和阅读理解能力上达到了国内外开源模型的平均水平，但在数学与...……更多
2023-11-06 12:13:00李开复,万物,模型,能力,训练,阿里
...然后生成、回忆-原因-生成、提取-生成和直接回答等各种推理技术，同时还能为不同的任务选择不同的解决方案策略。Orca2模型相比较Llama2和WizardLM等大型语言模型，在痛苦理解、常识推理、多步推理、数学问题解决、阅读理解...……更多
2023-11-22 11:08:00微软,研究院,研究,微软,模型,推理
...是人类第一次让电脑能够把人类所有的知识理解、存储、推理，对人类的语言有了完整的了解。语言为什么这么重要呢？因为我们人类和动物最大的差别，是我们用语言在描述这个世界，所以一旦机器理解了人类的语言，跟人类...……更多
2023-12-12 10:05:00周鸿,模型,信仰,发展,模型,人工智能
...中心的AI数据处理。但苹果的芯片只专注于进行AI模型的推理过程，而不涉及到AI模型的训练运算。显然，苹果打算通过这种方式来宣扬AI功能的安全性。就如苹果iCloud云空间那样，苹果不会获知用户在云端的数据。但毕竟数据是...……更多
2024-06-03 20:19:00云端,隐私,机制,苹果,安全,数据
...两个任务主要依赖形式语言能力或信息检索，而非复杂的推理能力。由此可以得出，在没有上下文学习的条件下，GPT 模型的涌现能力受到了极大的限制。然而，涌现能力的来源仅仅如此吗？研究团队又将目光转向了指令微调模...……更多
2024-08-19 09:31:00模型,威胁,人类,能力,研究,模型
...凡的性能而获得了前所未有的关注。然而， LLM 的训练和推理成本高昂，人们一直在尝试通过各种优化方法来降低成本。本文来自上海算法创新研究院、北京大学等机构的研究者受人类大脑记忆层次结构的启发，他们通过为 LLM ...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...侧大模型加速部署，或将成为未来交互新入口。AI在数学推理、新药研发、材料发现、蛋白质合成等领域大显身手， "AI科学家"有望加速问世。这三个报告，一方面预测了AI Agent的未来发展趋势，另一方面也同时提及了多模态大模...……更多
2024-02-02 17:00:00研究方向,个体,方向,员工,数字,智能
...的开源模型，开发者及企业无需从头训练，即可直接用于推理，并可基于腾讯混元系列打造专属应用及服务，能够节约大量人力及算力。同时，各大模型研发团队均可基于腾讯混元模型进行研究与创新，加速行业创新步伐。据技...……更多
2024-12-04 09:48:00文生,腾讯,模型,参数,社区,视频
...模型的上下文长度快速增长，超长上下文解锁新应用，但推理计算代价高昂，上下文本身对于信息不会进行压缩，不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年，人工智能领域风起云涌...……更多
2024-03-25 10:53:00林达,模型,之路,结构,发展,模型
...的视觉智能体能力，可自主操作手机和机器人，借助复杂推理和决策的能力，Qwen2-VL 可以集成到手机、机器人等设备，根据视觉环境和文字指令进行自动操作；
理解图像视频中的多语言文本，包括中文、英文，大多数欧洲语言...……更多
2024-09-03 09:45:00二代,通义,阿里,模型,视觉,语言
...的多模态模型，其具有上下文学习、图片识别和一定连续推理的能力。该模型具有三个参数规模，其中最大的拥有300亿参数。作为对比，OpenAI的GPT-4拥有1.7万亿参数规模。而几周前发布的新款Mac电脑，苹果也首次将宣传重心转移...……更多
2024-03-21 11:37:00库克,上海,苹果,话题,奥特,奥特曼
...可以大幅提升腾讯混元大模型在终端侧的运行效率，端侧推理实现首个token生成时延达到150ms，解码速率达到超过 30tokens/秒。腾讯混元大模型已为腾讯内部超过700个业务场景和C端应用提供底层技术支持，在骁龙8至尊版芯片上部...……更多
2024-10-23 02:55:00终端,模型,参数,语言,高通,终端
...苹果研究员最近发布了一篇名为《理解大语言模型中数学推理局限性 》的论文，质疑大语言模型的数学推理能力，甚至认为大语言模型不具备真正的推理能力，放弃造车、战略押注AI的苹果甚至放弃了OpenAI的新一轮投资机会。与...……更多
2024-10-18 09:30:00李彦,警钟,泡沫,关键,模型,泡沫
...设定了一个新的前沿”。Mistral Large 2尤其擅长代码和数学推理，上下文窗口128k，支持数十种自然语言以及80+编程语言。特别在MMLU上，其预训练版本更是达到了84.0%的准确率。消息一出，Mistral AI联创兼首席科学家第一时间转发，...……更多
2024-07-26 09:39:00模型,参数,模型,基准,问题,推理
...结合了两个B200 GPU和一个独立的Grace CPU，将能够使大模型推理工作负载的性能提升30倍，同时提高效率。相比于H100，它可以“将成本和能源消耗降至1/25”。这就意味着，以前训练一个拥有1.8万亿参数的模型需要8000个Hopper GPU 和15...……更多
2024-03-19 08:53:00英伟,推理,芯片,性能,成功,产品
...。有业界专家推测，百度在训练文心大模型4.0时所付出的推理成本，大约会比3.5版本高出10倍左右。
据统计，自2022年底，过去十年之中，百度已经累计投入了超1400亿元的研发资金，而在今年的大模型更新迭代中更是呈现出疯狂...……更多
2023-10-27 18:02:00时能,模型,模型,应用,企业,场景
...千亿参数MoE架构模型。MoE架构中基于多个专家并行机制，推理时只激活部分专家，以稀疏性压缩了参数数量和推理成本。“这就可以极大地节省算力耗费”。而率先掀起价格战的幻方DeepSeek-V2，就是其通过架构创新，实现了大模...……更多
2024-05-25 10:34:00何方,价格战,深度,模型,价格,模型
...并发、技术自主可控方面具有优势的新选择。AI大模型在推理侧的新机遇与RISC-V创新架构具有的可扩展性、可编程性、超大规模等优势特点不谋而合。技术和场景应用的双重优势下，希姆计算的大模型一体机能支撑企业将基座模...……更多
2023-11-15 15:41:00模型,一体机,推理,快车,芯片,一体
...常高效在测试时，循环序列模型会按顺序推出，从而使其推理更为高效。相反，传统 RNN 的瓶颈在于其训练，需要线性训练时间（通过时间反向传播），这导致其最终被淘汰。人们对循环序列模型重新产生兴趣，是因为许多新的...……更多
2024-10-15 09:56:00图灵奖,图灵,得主,新作,序列,训练
...用于自身业务优化并对外开放合作。
大模型分为训练和推理两个过程，前者将大模型训练成型，后者即为应用。由于训练大模型需极大算力，开发成本高昂，业界多有关于不需“重复造轮”的讨论。例如，入场做大模型后，百...……更多
2023-10-14 00:21:00百川,阿里,前奏,模型,领域,智能
...歌近日公开了一项名为“社会学习（SocialLearning）”的AI框架，该框架允许AI语言模型能够通过自然语言互相学习，由于不需要直接交换敏感关键信息，因此训练出的AI模型更具隐私保护性。据介绍，在这款“社会学习框架”中，...……更多
2024-03-11 11:35:00框架,社会,学习,模型,学习,指令
...一篇题为《flash中的LLM：有限内存下的高效大型语言模型推理》的论文中，苹果提出了一种在内存有限的手机或个人电脑上，运行AI大模型的方式。另一篇发表于今年4月，苹果介绍了Ferret-UI，称其为全新的多模式大语言模型（MLLM...……更多
2024-06-11 13:52:00根基,苹果,正在,苹果,智能,微软
...这可能会导致任务的轨迹更加不可控，因为它不会被迫“推理”整个任务。而DS Assistant使用了plan-and-excute框架，这是一种新兴的Agent框架，通过明确计划和执行步骤高效完成复杂任务。langchain官网对Plan-and-execute Agent的描述：https:.……更多
2024-08-08 09:40:00小白,阿里,科学家,流程,自动化,科研
...er模型取得了比扩散模型更好的结果，只有900M参数，但在推理时间上比StableDiffusion1.4版本快3倍，比Imagen-3B和Parti-3B快10倍。下图是Muse与DALL・E2和Imagen的生成效果对比：文本-3D模型生成主要代表作有Dreamfusion、Magic3D……更多
2023-01-30 16:34:00生成,模型,新论,代表作,盘点,进展
...个难题。算力成本贵。大模型的主要算力成本分成训练、推理两部分。随着AI应用数量增多，算力资源消耗也在加大，算力成本也随之攀升。采购一枚AI训练芯片起步价是1万美元。企业进行模型训练、微调、推理时还要反复试错...……更多
2024-12-07 09:54:00亚马,亚马逊,科技,亚马,亚马逊,模型
...好，所以要在左上角：
GRIN作为MoE架构，总参数量约42B，推理时激活的参数为6.6B，打同级别（7B）的非MoE模型是手拿把攥，甚至比14B的Phi-3还要略胜一筹。在上面的这份成绩单中，GRIN MoE表现优异，尤其是在编码和数学测试中。...……更多
2024-11-12 09:57:00专家,微软,路径,模型,模型,专家
更多关于科技的资讯：
五年连获七家世界知名轴承制造企业认证一根轴承钢转动全球——“铁疙瘩”怎样变成“金娃娃”（九）前不久，河钢集团石钢公司收到日本某国际知名轴承企业高碳铬轴承钢的认证邮件
2025-09-28 08:04:00
锚定新赛道 壮大新动能超31亿元新一代工业软件基地项目开工南报网讯（记者刘安琪）项目兴则产业兴，项目强则经济强。9月26日上午
2025-09-28 07:43:00
近日，山东省轻工联社发布《关于公布2025年度山东省中小企业服务支撑机构名单的通知》，山东移动成功入选。作为推动中小企业数字化转型的主力军
2025-09-27 08:11:00
在数字化浪潮席卷而来的今天，信息传输网络如同城市的“神经网络”，是智慧城市运转的核心支撑。作为这一无形“生命线”的守护者
2025-09-27 12:34:00
9月24日-25日，新城控股“2025第八届商业年会暨吾悦商管第一届悦链计划合伙人大会”在上海西岸美高梅酒店举行，新城控股集团董事长王晓松及公司高管
2025-09-27 12:37:00
25日上午，以“上山下山·食在晋安”为主题的晋安区“一县一桌菜”云上发布会举行，12道“云端”盛宴引爆味蕾。
2025-09-27 13:53:00
河北新闻网讯（张新）2025年，是我国“十四五”规划收官之年，也是“双碳”目标提出五周年。在此背景下，央视《东方时空》栏目近日推出“可控核聚变专题”
2025-09-27 14:45:00
9月25日，国网山西省电力公司发布消息，该公司成功完成配电网无人机电力北斗定位服务的全面应用，标志着该公司依托电力北斗高精度定位服务
2025-09-27 19:56:00
谢志强，现任中科汇理信息技术研究院党支部书记、秘书长、中科产学研合作一体化人才培育开发平台项目主任。历任中国银行总行风险管理部业务经理
2025-09-27 20:20:00
在第四届全球数字博览会上，贵州工匠行科技有限公司展出的SomaSeek具身智能平台，让机器人彻底告别了遥控器，也能听会说
2025-09-27 22:17:00
齐鲁晚报·齐鲁壹点 胡晓雪 李国栋9月26日，2025潍坊纺织服装产业国际精准对接活动在奎文区成功举办，本次活动以“我帮企业组主场·我为企业找订单”为主题
2025-09-27 22:22:00
齐鲁晚报·齐鲁壹点 陶春燕 山东省宇捷轴承制造有限公司是国家级专精特新重点“小巨人”企业、国内最大的调心滚子轴承生产企业
2025-09-27 20:05:00
当小区突发故障停电，地下车库里业主们的电动汽车，瞬间变身为一个巨大“充电宝”，为消防、通风和应急照明系统供电，守护社区安全
2025-09-27 12:35:00
随时“云端”办公，自由“安放”工位，数字游民社区兴起数字游民在南京：我推着房间找邻居南京首个乡村数字游民社区坐落于浦口草圣书乡景区
2025-09-26 08:14:00