- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...命周期包括最重要的两个部分，一个是AI训练，一个是AI推理。其中，AI训练就是让模型识别数据模式，是数据和处理最密集的部分，需要大规模的算力。在这一阶段，往往优先使用大规模并行的GPU加速器或专用的AI加速器，有时...……更多
2024-03-15 02:13:00推理,周期,训练,生命,推理,能效
...让人印象深刻的是，英伟达在财报电话会议的一个观点：推理端的爆发，可能很多人还是低估了。据英伟达电话会议披露，公司全年数据中心里已经有40%的收入来自推理业务，超出了绝大部分人预期。而在这次财报电话会议里，...……更多
2024-03-02 13:38:00英伟,电话会议,推理,收入,需求,端的
...架的支持，特别是PyTorch、TensorFlow等等，在AI训练、实时推理、批量推理等方面，基于不同算法，性能提升最多可达40％，甚至可以处理340亿参数的大模型。根据Intel提供的数据，五代至强SPECInt整数计算性能提升21％，AI负载性能...……更多
2024-03-26 05:00:00革新,小意思,参数,时代,性能,芯片
...能设备或家庭服务器上，使用存储在本地的个人数据进行推理和学习的人工智能基础模型。它不仅可以像公共大模型那样通过对话提供答案、创作内容，而且更精准、贴切，甚至根据用户的思维模式预测任务，并自主寻找解决方...……更多
2023-11-22 19:04:00杨元庆,模型,运行,支持,个人,模型
...器，相比上代至强平均性能提升了21%，能效提升了36%，AI推理性能提升了42%，总拥有成本降低了77%！最高64核心，整体性能提升21%、AI推理性能提升42%、总拥有成本降低77%！
据介绍，第五代至强（Xeon）延续了上代的Intel 7制造工...……更多
2023-12-16 13:49:00英特,英特尔,推理,处理器,性能,处理
...并发、技术自主可控方面具有优势的新选择。AI大模型在推理侧的新机遇与RISC-V创新架构具有的可扩展性、可编程性、超大规模等优势特点不谋而合。技术和场景应用的双重优势下，希姆计算的大模型一体机能支撑企业将基座模...……更多
2023-11-15 15:41:00模型,一体机,推理,快车,芯片,一体
...器更是能够微调参数量多达200亿的大语言模型9，并将其推理性能提高42%。现阶段，英特尔至强可扩展处理器也是唯一一款拥有MLPerf 训练和推理基准测试结果并持续提升性能的 CPU。得益于内置AI加速器，以及优化的软件和增强的...……更多
2023-12-18 13:54:00英特,英特尔,处理器,处理,英特,英特尔
...来概括它的特点,那就是——AI味道越发得浓厚。以训练、推理大模型为例:• 与第四代相比,训练性能提升多达29%,推理性能提升高达42%;• 与第三代相比,AI训练和推理性能提升高达14倍。什么概念?现在若是将不超过200亿参数的模型...……更多
2023-12-25 19:02:00英特,英特尔,英特,英特尔,处理器,处理
...算中心支持部署万亿参数大模型，可提供千卡规模的训练推理能力，计算效率达80％，并支持主流框架、芯片，支持基于训练推理的混合调度能力，资源利用率提升20％。中国电信表示，中部智算中心将引进多家云计算、AI、生物...……更多
2024-01-30 21:24:00中国电信,软硬,中国,电信,全国,中国电信
...们在人工智能革命上已经前进了几个季度，部分人工智能推理工作负载将在设备上处理似乎更加可信。高通的新产品发布看起来很有竞争力。Snapdragon 8 Gen 3 看起来很棒，基准测试也非常好（读者可以在高通Snapdragon Summit Keynote 202...……更多
2024-01-28 18:00:00高通,人工智能,红利,人工,只是,智能
...4位量化技术，实现精度不掉点效果下更优的性能，通过推理引擎的加速，以及芯片硬件加速的方式，更是成为行业首个端侧应用的70亿参数的模型。基于来自端侧的70亿大模型参数，FindX7能够实现比其他手机更快速的大模型响应...……更多
2024-01-09 10:18:00泥沼,厂商,手机,市场,手机,模型
...、多区多业务资源整合、算法开发支持、混合组网、容器推理服务平台、模型仓库（MaaS）、AI训练平台九大关键能力，青云AI算力调度平台提供多元算力统一调度的同时，具备分布式调度与管理能力，并能够统一纳管多种异构硬...……更多
2023-10-06 04:34:00一轮,调度,重要性,平台,青云,调度
...。AI2.0时代,需要新一代的基础设施来支撑大模型的训练与推理、生成式AI应用的规模化落地,其核心要素,如计算、存储、网络以及数据服务都要做精细化的设计和重构,而非简单的服务器或GPU实例堆砌。《白皮书》明确了新一代AI...……更多
2024-01-02 21:30:00商汤,白皮,白皮书,基础设施,新一代,评估
金山办公：年初就备了较大的算力供应 推理和训练算力充足 【金山办公：年初就备了较大的算力供应 推理和训练算力充足】《科创板日报》18日讯，据一财网17日晚间报道，拜登政府10月17日更新了针对人工智能芯片的出口管制...……更多
2023-10-18 10:59:00金山,推理,训练,办公,供应,科创
...该算法通过并行处理常规顺序操作，可以加速神经网络的推理和训练过程。尽管神经网络已能处理文本或图片合成、分割和分类等复杂任务，但由于计算需求过大，神经网络训练和反馈结果的时间可能需要数天或者数周。目前广...……更多
2023-12-16 21:06:00神经网络,推理,神经,速度,苹果,训练
...三代至强® 可扩展处理器通过扩展出bfloat16加速功能，在推理加速能力之外又加强了训练能力；而第四代英特尔® 至强® 可扩展处理器又带来了全新的加速引擎——英特尔® AMX，进一步提升深度学习训练和推理性能，同时更适合...……更多
2023-12-20 19:21:00英特,智化,英特尔,瓶颈,变革,处理器
生成式AI的新时代下，无论AI训练还是AI推理，都对硬件算力提出了空前苛刻的极高需求，GPU加速器、FPGA/ASIC加速器等各种专用硬件变得异常火爆，在消费级端无论PC还是智能手机都纷纷加入了专用的NPU硬件引擎。这种情况下，CPU...……更多
2023-12-07 22:19:00砥柱,中流,标杆,时代,加速器,处理器
...于算力领域，并致力于智能计算基础设施、大模型的训练推理算法以及工程优化的研究和开发。#中兴通讯绿色算力主力军#在算力领域，大模型的技术和应用已经成为一个趋势。大模型是一种基于深度学习技术的自然语言处理模...……更多
2023-12-04 10:08:00中兴通讯,推理,基础设施,模型,设施,训练
...一定启示。日前，相关论文以《大型语言模型评价中的元推理革命》（MR-GSM8K: A Meta-Reasoning Revolution in Large Language Model Evaluation）为题发在 arXiv，曾忠燊是第一作者，香港中文大学教授贾佳亚担任通讯作者 [1]。图……更多
2024-03-04 10:23:00革新,模型,范式,中文,推理,团队
...下也能使用；第三，更低的大模型使用成本，以本地免费推理为主、以云端公共推理为辅，一次性购买AIPC即可享受全生命周期的本地免费推理服务；第四，可信、安全的个人数据和隐私保障，个性化本地知识库、隐私数据的本...……更多
2023-12-17 21:00:00王传,主流,市场,推理,服务,个人
...的核心——高通HexagonNPU，增强的高通HexagonNPU让生成式AI推理速度更快，相比前代的推理速度快98%，且能效提升40%。最新的HexagonNPU还集成了微架构升级、增强的微切片推理、更低的内存带宽占用，以及可实现最优性能和能效的专...……更多
2024-02-08 18:17:00三星,移动,平台,三星,高通,三代
谷歌发布全新反向推理算法LAMBADA，无惧搜索空间爆炸！自动推理绝对算是自然语言处理领域的一大难题，模型需要根据给定的前提和知识推导出有效且正确的结论。尽管近年来NLP领域借着大规模预训练语言模型在各种「自然语...……更多
2023-01-09 21:57:00自然语言,算法,推理,自然,语言,目标
...算力是上一代的8倍，可在PC上实现高能效的AI加速和本地推理，并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步，上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU，算力为16TOPS，AI性能相比上一代提升...……更多
2023-12-12 16:27:00英特,英特尔,微软,布局,时刻,价格
...工智能系统，让它在说话前先思考。内心独白提高了常识推理能力，并使其数学成绩翻了一番。一项新的研究表明，给人工智能系统一个“内心独白”会大大提高它们的推理能力。这种方法训练的人工智能系统，会在对提示做出...……更多
2024-03-21 16:13:00人工智能,研究人员,独白,人工,内心,性能
...态下也能使用；第三，降低大模型使用成本，在本地免费推理为主，云端公共推理为辅的情况下，一次购买AI PC即可享受全生命周期的本地免费推理服务；第四，提供可信、安全的个人数据和隐私保障，包括个性化本地知识库、...……更多
2023-12-17 21:02:00下一代,载体,正在,时代,推理,个人
...能计算等；在AI服务器领域，联想从训练到训推一体再到推理的AI全场景都有完善的AI服务器产品矩阵。在设备之上，联想研发了在构筑智算中心时的关键模块——异构智算平台。同时，联想与国内外领先的AI算力生态企业广泛合...……更多
2024-01-14 22:52:00布局,模型,战略,智能,产业,应用
...在MMLU（多任务语言理解）、Knowledge（知识）、Reasoning（推理）、Comprehension（理解）等关键指标上均超越了Meta Llama 2的13B模型。这一个故事，在2024年2月1日的发布会上，也被AI模型层公司面壁智能的CEO李大海不断提起。对标Mistral..……更多
2024-02-03 16:03:00适配,推理,模型,主流,成本,智能
...今年正式投产。据了解，新的芯片将被应用于数据中心的推理任务，与英伟达等供应商的GPU一起协同工作。Meta发言人之前表示：我们相信，我们自主开发的加速器将与市面上的GPU相得益彰，为Meta的任务提供最佳的性能与效率平...……更多
2024-02-12 20:47:00数据中心,推理,应用,数据,英伟,芯片
...的架构产品去解决AI的不同需求，包括面向通用处理和AI推理的Zen架构CPU；面向HPC、AI训练和密集推理的CDNA架构GPU；面向游戏和基于AI的内容开发的RDNA架构GPU；以及面向低功耗和一直在线的AI推理的XDNA架构，即NPU。
最先的锐龙804...……更多
2024-03-22 20:31:00峰会,副总,架构,大中华区,晓明,伙伴
...的内存单元，是大模型进手机面临的第二道难关：大模型推理需要大量计算资源做支撑，与此同时，内存大小决定了数据处理速度的上限以及推理的稳定性。另外，在手机上跑大模型，也给电池带来了更大的压力。因此芯片能耗...……更多
2023-11-16 20:30:00安卓,三个字,模型,三个,手机,模型
更多关于科技的资讯：
通感一体是5.5G/6G网络的关键技术，它的原理与雷达相似。2024年是5G-A商用元年，正在举行的2024年上海世界移动通信大会（2024MWC上海）上
2024-06-28 08:50:00
讯飞星火APP/Desk全新升级，发布“个人空间”，打造更懂你的AI助手；讯飞晓医APP升级，上线个人数字健康空间，打造每个人的健康助手
2024-06-28 08:49:00
15年来，B站不断破圈，内容从二次元扩展到学习、生活、科技等多个领域。用户群体的增长和内容的多元化，也为B站带来了商业化的新机遇
2024-06-28 09:14:00
6月27日，2024国际AI与高性能计算学术会议在合肥顺利举行。本次大会由合肥高新区管委会作为指导单位，科大硅谷服务平台有限公司
2024-06-28 09:14:00
新智元报道编辑：编辑部【新智元导读】真实的大学考试，已经被AI渗透了！英国雷丁大学的一项研究发现，在大学考试中，有94%的AI生成内容完全没有被老师发现
2024-06-28 09:19:00
智东西（公众号：zhidxcom）作者香草编辑漠影在5G、边缘计算等技术的推动下，算力逐渐从数据中心向终端扩展。AI时代的终端算力
2024-06-28 09:16:00
“不要组织大型会议，除非你确定它们能为所有与会人士带来价值。”这是马斯克曾写在特斯拉内部信中的内容。他提出，绝大部分企业内部问题来源就是各个部门之间沟通不善
2024-06-28 09:15:00
前些年，英特尔就曾介绍其在集成光子学方面取得的快速进展，将使业界能够全面重塑由光连接的数据中心网络和架构。随后英特尔实验室成立了互连集成光子学研究中心
2024-06-28 09:20:00
AI大战的角逐中，电车巨头特斯拉的光环远不及英伟达、微软等。但大摩却认为特斯拉手握一张“关键底牌”，能让其成为下一轮AI投资中的关键“胜负手”
2024-06-28 09:15:00
IT之家 6 月 27 日消息，中国移动 6 月 26 日举办 5G 智能物联网产品体系发布暨推介会。中国移动首席专家
2024-06-28 09:19:00
智东西（公众号：zhidxcom）作者云鹏编辑漠影最近，AI手机之战愈发焦灼。从海外的苹果、三星到国内的OPPO、vivo
2024-06-28 09:16:00
智东西（公众号：zhidxcom）作者香草编辑李水青智东西6月27日报道，昨日，钉钉宣布推出7.6版本，发布AI搜索功能并开放邀测
2024-06-28 09:16:00
裸露和涌现的平坦带和晶格几何形状的图示。a 在非相互作用的情况下，一条平坦的带（红色实线）出现在远离费米能量的地方。b 在存在轨道选择相关性的情况下
2024-06-28 09:23:00
6月27日消息，一加正式发布了一加 Ace 3 Pro、一加平板 Pro、一加手表2等多款新品，其中一加 Ace 3 Pro手机售价3199元起
2024-06-28 09:20:00
科研与商业如何平衡？尤其是在当前科技圈最热的赛道——人工智能（AI）中。来自谷歌内部的一些经验和教训，或许可以给出一些启示
2024-06-28 09:24:00