• 我的订阅
  • 头条热搜
从架构、工艺到能效表现,全面了解LLM硬件加速,这篇综述就够了
...预测文本并能回答问题、总结文本等。 本文对使用硬件加速器来加速 Transformer 网络所做的一些研究工作进行了全面的调查。该调查介绍了已提出的框架,然后对每个框架的技术、处理平台(FPGA、ASIC、内存、GPU)、加速、能源...……更多
AI时代 CPU依然是中流砥柱!AMD EPYC树立新标杆
...是AI推理,都对硬件算力提出了空前苛刻的极高需求,GPU加速器、FPGA/ASIC加速器等各种专用硬件变得异常火爆,在消费级端无论PC还是智能手机都纷纷加入了专用的NPU硬件引擎。这种情况下,CPU通用处理器似乎变得不重要了,在...……更多
ai生命周期:ai训练和ai推理的完美结合
...规模的算力。在这一阶段,往往优先使用大规模并行的GPU加速器或专用的AI加速器,有时候根据情况也可以使用超高性能的CPU处理器。AI推理则是基于训练好的模型,实时处理输入的数据,只需较小的算力,更接近数据的实际位...……更多
intel造了一颗“算力存力核弹”
...单颗处理器的功耗直飚500W——当然,跟同期发布的GaudiAI加速器的新品或类似的加速器产品相比,能耗是应有的代价,有能力提升性能上限才是正经事。内存性能大跃进内存(DRAM)的数据存储依赖电容,这个特点使其微缩和提速...……更多
22年后英特尔放弃了超线程!Lunar Lake架构深度解析
...图形性能提高了1.5倍。全新的XMX矩阵扩展单元作为第2个AI加速器,可以提供高达67TOPS的性能,为AI内容创作提供出色的吞吐量,能够为人工智能应用在集显上运行提供更好的性能。 总结来说,全新的Xe集显加上软件优化,与上一...……更多
英特尔发布至强6能效核处理器:全E核设计加速数据中心能效升级
...持CXL2.0的Type1、Type2以及Type3设备。该新标准将使计算机与加速器、内存扩展器和其他设备等组件更容易地进行连接与通信。至强6700和6900系列处理器都有能效核和性能核的版本,当中至强6700最多144个效能核或86个性能核,最高TDP3...……更多
为什么第三代骁龙8的性能如此优秀
...速单元、微区块推理单元以及性能加强的张量/标量/向量加速器。同时,由于HexagonNPU的向量加速器与内存直连,在执行量化、压缩和编译等任务更高效,时延也更低。因此,搭载第三代骁龙8的旗舰所内置的生成式AI助手在无需联...……更多
搭载苹果M4的新款iPad现身Geekbench
...度最高可达每秒38万亿次;内置的新一代机器学习(ML)加速器;先进媒体引擎支持AV1解码,以及H.264、HEVC和ProRes等流行的视频编码。 ……更多
第三代骁龙8技术规格解析 手游进入240帧时代
...ady的调制解调器及射频系统,也是首个采用专用硬件张量加速器(第二代高通5GAI处理器)的调制解调器及射频系统。第二代高通5GAI处理器的AI性能提升至第一代的2.5倍以上,同时引入了第二代高通5GAI套件,实现更高的连接速度...……更多
英特尔酷睿ultra处理器正式推出,多线程性能领先
...多工作,目前英特尔计划到2025年推出超过1亿台的带有AI加速器,也就是NPU的电脑投放到市场上。目前,在英特尔生态系统里有大量的合作伙伴正在开发AI应用,或者是利用AI重塑已有的应用。根据英特尔提供的数据,目前英特尔...……更多
苹果发布全新M4芯片,强悍AI性能秒杀AI PC
...行引擎。两种核心也都采用了性能更强的新一代机器学习加速器。相比M2芯片,M4芯片的中央处理器性能提升最高达1.5倍。无论是处理LogicPro中复杂的交响乐项目,还是在LumaFusion中为4K视频添加对性能要求极高的效果,M4芯片能为...……更多
AI时代CPU不老!Intel五代至强五大革新:340亿参数小意思
...将超过50%。AI大模型等应用最需要的当然是高算力,GPU加速器随之变得炙手可热,但是AI的发展与变革同样是多元化的,CPU通用处理器、NPU神经网络引擎也都在各司其职,贡献自己的力量。尤其是传统的CPU,也在紧跟时代的脚步...……更多
功耗低至毫瓦级!苹芯科技发布存算一体NPU,交付多模态智能感知芯片
...科技创立于2021年2月,同年9月其基于SRAM架构的存内计算加速器S200测试成功,该成果还发表于素有“固态电路领域奥林匹克”之称的芯片顶会ISSCC 2022。今天的新品发布也是对其过去三年创业发展的阶段性总结。清华大学电子工程...……更多
超星未来梁爽:软硬件协同优化,赋能AI 2.0新时代
...软硬件协同优化是现实可行的落地路径 过去十年被称为AI加速器的黄金十年,CNN加速器的能效已经提升到了100TOPS/W级别。大模型的规模以及参数增长速度远超CNN时代,大幅超出了传统计算硬件的增长速度。而当前大模型的处理器...……更多
骁龙8 Gen3正式发布:8K240手游成真!
...集合KryoGPU、AdrenoGPU、HexagonDSP、SpectraISP、标量/矢量/张量加速器、传感器中枢等各个单元的力量,还有针对音频、传感器加入的两个微型NPU单元。HexgonNPU升级了全新的微架构,包括硬件加速单元、微型区块推理单元(性能大大升级...……更多
英特尔:未来的PC将更有“AI”
...英特尔便开启平台化赋能终端侧AI普及,通过CPU、GPU、AI加速器三类不同架构应对多样性终端侧AI应用需求。作为英特尔重点发力方向,在未来亮相的英特尔平台中,将通过“CPU+GPU+VPU”的全新人工智能加速处理模式,增强PC端AI体...……更多
双向赋能:AI与数据库的修行之道
...于数据压缩解压缩,以及英特尔®IAA(英特尔®存内分析加速器)加速数据分析。在数据安全方面,英特尔也能通过英特尔®TDX(英特尔®信任域扩展)和SGX(英特尔®软件防护扩展)为使用中的数据提供端到端硬件级防护能力。...……更多
vivox90/骁龙8gen2全面落地
...代的芯片,在发布之前就受到广泛关注。由于前几代骁龙能效比不理想,高通这次专注提升能效比,旨在降低芯片功耗以及温度。不过即使如此,高通依然在骁龙8Gen2上实现性能提升。官方表示第二代骁龙8相比第一代骁龙8有着35...……更多
高通全球首发5G Advanced基带骁龙X75:首次十载波聚合 速度次要的
...用面积最多25%。第三,骁龙X75集成了首个面向5G的张量加速器,从而首次实现了硬件加速AI。去年骁龙X70第一次在基带中引入了5G +AI的处理方式,而骁龙X75凭借全新的张量处理器架构,AI处理能力提升至前一代的2.5倍以上。作为...……更多
掰开安卓手机 满屏都是三个字:大模型
...0%。具体而言,HexagonNPU升级了全新的微架构。更快的矢量加速器时钟速度、更强的推理技术和对更多更快的Transformer网络的支持等等,全面提升了HexgonNPU对生成式AI的响应能力,使得手机上的大模型“秒答”用户提问成为可能。He...……更多
高通骁龙x系列的实力到底如何?
...面临着一些现实问题。如制程工艺接近纳米极限所带来的能效比问题;传统PC行业格局多年来一成不变所造成的产品固化问题;以及x86架构平台的创新乏力问题等等。因此,传统PC行业在紧紧抓住AIGC这一创新命脉的同时,当然需...……更多
苏姿丰获itfworld2024大奖
...划,一个充满野心的计划:AMD正在努力实现2025年将计算能效提高到2020年的30倍的计划,而在这个计划之后,还有在2027年将能效提高到100倍(相对于2020年)的目标。图源:AMD计算能效,简单来说就是指计算机在执行计算任务时,...……更多
AMD首席技术官:Ryzen AI能效更高
...候公布更多的信息。目前AMD在Ryzen7040系列APU上内置了XDNAAI加速器引擎,也就是RyzenAI。在AMD看来,可以为某些类型的AI推理工作负载提供了优势,而且比CPU或GPU更有用。不过这样的设计的重点和难点是将不同的人工智能工作负载引...……更多
英特尔酷睿 Ultra 移动处理器发布:Intel 4 工艺,核显性能翻倍
...酷睿 Ultra 处理器采用了英特尔首个用于客户端的片上 AI 加速器“神经网络处理单元(NPU)”,将高能效 AI 加速提升到了新的高度,带来 2.5 倍于上一代产品的能效表现。 英特尔表示,正与 100 多家软件厂商紧密合作,为 PC 市...……更多
最高144核心!首款配备能效核英特尔至强6处理器发布
...了!在6月6日这个特别“6”的日子,英特尔推出首款配备能效核的英特尔至强6处理器产品(代号SierraForest)。同时,英特尔也介绍了在数据中心需求不断演进,不同应用场景需要更有针对性解决方案背景下,新的至强品牌主张——...……更多
全新英特尔 至强 可扩展处理器,打破数智化变革瓶颈的一板利斧
...,第五代英特尔® 至强® 可扩展处理器基于其内置的丰富加速器引擎,为各行各业提供了从AI部署到落地、从应用到创新的强劲性能支持,同时还能实现降本与安全的双协同,帮助企业更好地应对变革浪潮中直击命脉的痛点,实...……更多
多项首创加持! 高通推出骁龙X75 5G调制解调器及射频系统
...G Advanced-ready架构外,骁龙X75还是首个采用专用硬件张量加速器(第二代高通5G AI处理器)、首个采用融合毫米波和Sub-6GHz架构的调制解调器及射频系统,由此带来了一系列新特性与性能突破、能效升级。融合毫米波和Sub-6GHz作为...……更多
架构设计脱胎换骨!英特尔酷睿Ultra深度解析
...算模块,也就是我们熟悉的P-core和E-core,这次的性能核与能效核均采用全新的Intel4制程工艺打造,并且优化了电源管理和总线带宽。具体到E-core与P-core的变化,首先,酷睿Ultra平台的E-core微架构由Gracemont升级到了Crestmont,确保在...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...的DDR5 DIMM、3个PCIe控制器(共6个)、2个UPI(共4个)和2个加速器引擎(共4个)。对于较低核心数量的第五代至强处理器,英特尔则继续采用单芯片结构,英特尔称之为中等核心数的芯片(MCC),最多可以有32个核心。还有一种名...……更多
Find X7充分挖掘天玑9300性能上限
...4超大核与四颗主频2.0GHz的Cortex-A720大核,拥有十分出色的能效表现和计算能力。然而,要将这款芯片的性能发挥到更优,并不是一件容易的事情,需要手机厂商进行全方位的深入研究和调校。为了充分发挥天玑9300的实力,OPPO与...……更多
更多关于科技的资讯:
广场屏幕惊现直播玩《黑神话:悟空》 网友:都看到你上班打游戏了
快科技10月2日消息,近日浙江一网友在一处广场,发现大屏幕上正在直播播放Steam启动《黑神话:悟空》的画面。视频中,该玩家的Steam并没有太多游戏
2024-10-02 17:35:00
9999元!机构送iPhone 16 Pro物料成本拆解:苹果造一部3400元
快科技10月2日消息,市场调查机构TD Cowen送出了iPhone 16 Pro Max的物料成本统计,其比前代高7%
2024-10-02 18:05:00
《英雄联盟》S14全球总决赛瑞士轮明天开打:中国LPL世界赛首战
快科技10月2日消息,2024英雄联盟全球总决赛瑞士轮阶段将于10月3日开打。本次瑞士轮的比赛时间为10月3日至7日和10月10日至13日
2024-10-02 19:05:00
微软Win11 24H2正式删除写字板!核心程序仍保留
快科技10月2日消息,微软在最新发布的Windows 11 24H2大版本更新中,正式删除了经典的写字板应用。Windows 11 24H2包括了多项新特性
2024-10-02 19:05:00
2024年车企KPI完成度榜单出炉:提前交付10万辆的小米汽车竟不是第一
快科技10月2日消息,易车榜最新发布了2024年9月底各大新势力车企的KPI完成榜单。令人瞩目的是,零跑汽车一举夺魁,其年度销量目标设定在25-30万辆之间
2024-10-02 19:05:00
交强险全免!别克推出国庆限时优惠活动 全系可享
快科技10月2日消息,别克品牌为庆祝国庆节,推出了全系车型的限时购车优惠活动。从2024年10月1日至7日,消费者在电商平台别克官方旗舰店下订
2024-10-02 20:05:00
老外参观小米工厂惊呼中国科技过于先进:SU7卖价不超30万太实惠
快科技10月2日消息,据国内媒体报道称,在国庆期间有不少国外留学生参观了小米工厂(北京),而后他们感叹真是不可思议。据悉
2024-10-02 20:05:00
抖音成中国最大赢家!2024全球科技品牌价值榜公布
快科技10月2日消息,根据评估机构Brand Finance最新发布的“2024全球科技品牌价值100强”榜单显示,中国品牌抖音(TikTok)以841
2024-10-02 20:05:00
3052.5万起!阿斯顿·马丁Valiant已于国内正式上市
快科技10月2日消息,阿斯顿·马丁Valiant车型已经在中国上市,建议零售起配价为3052.5万元人民币(含增值税)
2024-10-02 20:35:00
荣耀90的拍照效果如何?
随着科技的不断进步,智能手机市场的竞争愈发激烈。荣耀品牌作为市场的佼佼者,其最新产品荣耀90自发布以来就受到了广泛的关注
2024-10-02 20:52:00
华为p60pro主要参数和特点介绍
华为P60Pro的发布无疑在智能手机市场引起了一阵轰动,许多朋友对其外观设计和技术创新赞不绝口,纷纷表示想要购买。为了帮助大家更好地了解这款手机
2024-10-02 20:52:00
荣耀x50的性能如何?值得购买吗?
在当前的智能手机市场中,荣耀X50以其卓越的性能和亲民的价格,成为了千元机市场的一颗璀璨明星。自2023年7月问世以来
2024-10-02 20:53:00
佳明高管:智能戒指的受欢迎程度在不断上升
10月2日消息,在接受媒体Wareable采访时,佳明(Garmin)高管认为智能戒指的受欢迎程度在不断上升,手表仍然是健康追踪的最佳形态
2024-10-02 20:58:00
微软消费者版office2024正式上线
10月2日消息,微软公司在推出Windows1124H2版本的同时,消费者版Office2024也正式上线。与基于订阅的Microsoft365不同
2024-10-02 20:59:00
iphone16需求锐减,苹果或将大规模砍单
9月2日消息,据国内媒体报道称,由于iPhone16需求锐减,苹果可能要进行大规模的砍单。报道中提到,因为需求低于预期
2024-10-02 21:00:00