• 我的订阅
  • 头条热搜
从架构、工艺到能效表现,全面了解LLM硬件加速,这篇综述就够了
...预测文本并能回答问题、总结文本等。 本文对使用硬件加速器来加速 Transformer 网络所做的一些研究工作进行了全面的调查。该调查介绍了已提出的框架,然后对每个框架的技术、处理平台(FPGA、ASIC、内存、GPU)、加速、能源...……更多
AI时代 CPU依然是中流砥柱!AMD EPYC树立新标杆
...是AI推理,都对硬件算力提出了空前苛刻的极高需求,GPU加速器、FPGA/ASIC加速器等各种专用硬件变得异常火爆,在消费级端无论PC还是智能手机都纷纷加入了专用的NPU硬件引擎。这种情况下,CPU通用处理器似乎变得不重要了,在...……更多
ai生命周期:ai训练和ai推理的完美结合
...规模的算力。在这一阶段,往往优先使用大规模并行的GPU加速器或专用的AI加速器,有时候根据情况也可以使用超高性能的CPU处理器。AI推理则是基于训练好的模型,实时处理输入的数据,只需较小的算力,更接近数据的实际位...……更多
intel造了一颗“算力存力核弹”
...单颗处理器的功耗直飚500W——当然,跟同期发布的GaudiAI加速器的新品或类似的加速器产品相比,能耗是应有的代价,有能力提升性能上限才是正经事。内存性能大跃进内存(DRAM)的数据存储依赖电容,这个特点使其微缩和提速...……更多
22年后英特尔放弃了超线程!Lunar Lake架构深度解析
...图形性能提高了1.5倍。全新的XMX矩阵扩展单元作为第2个AI加速器,可以提供高达67TOPS的性能,为AI内容创作提供出色的吞吐量,能够为人工智能应用在集显上运行提供更好的性能。 总结来说,全新的Xe集显加上软件优化,与上一...……更多
英特尔发布至强6能效核处理器:全E核设计加速数据中心能效升级
...持CXL2.0的Type1、Type2以及Type3设备。该新标准将使计算机与加速器、内存扩展器和其他设备等组件更容易地进行连接与通信。至强6700和6900系列处理器都有能效核和性能核的版本,当中至强6700最多144个效能核或86个性能核,最高TDP3...……更多
把AI带到桌面端!英特尔酷睿Ultra 200S系列台式机处理器解析
...AI算力的调用尽管仍集中在GPU,但是已经倾向于采用多个加速器的异构算力配置,CPU、GPU、NPU协同作业可以针对不同场景和需求,灵活平衡负载功耗,满足高能效需求,特别是针对移动平台能够保障续航。而且NPU的加入在执行某...……更多
为什么第三代骁龙8的性能如此优秀
...速单元、微区块推理单元以及性能加强的张量/标量/向量加速器。同时,由于HexagonNPU的向量加速器与内存直连,在执行量化、压缩和编译等任务更高效,时延也更低。因此,搭载第三代骁龙8的旗舰所内置的生成式AI助手在无需联...……更多
搭载苹果M4的新款iPad现身Geekbench
...度最高可达每秒38万亿次;内置的新一代机器学习(ML)加速器;先进媒体引擎支持AV1解码,以及H.264、HEVC和ProRes等流行的视频编码。 ……更多
第三代骁龙8技术规格解析 手游进入240帧时代
...ady的调制解调器及射频系统,也是首个采用专用硬件张量加速器(第二代高通5GAI处理器)的调制解调器及射频系统。第二代高通5GAI处理器的AI性能提升至第一代的2.5倍以上,同时引入了第二代高通5GAI套件,实现更高的连接速度...……更多
英特尔酷睿ultra处理器正式推出,多线程性能领先
...多工作,目前英特尔计划到2025年推出超过1亿台的带有AI加速器,也就是NPU的电脑投放到市场上。目前,在英特尔生态系统里有大量的合作伙伴正在开发AI应用,或者是利用AI重塑已有的应用。根据英特尔提供的数据,目前英特尔...……更多
苹果发布全新M4芯片,强悍AI性能秒杀AI PC
...行引擎。两种核心也都采用了性能更强的新一代机器学习加速器。相比M2芯片,M4芯片的中央处理器性能提升最高达1.5倍。无论是处理LogicPro中复杂的交响乐项目,还是在LumaFusion中为4K视频添加对性能要求极高的效果,M4芯片能为...……更多
AI时代CPU不老!Intel五代至强五大革新:340亿参数小意思
...将超过50%。AI大模型等应用最需要的当然是高算力,GPU加速器随之变得炙手可热,但是AI的发展与变革同样是多元化的,CPU通用处理器、NPU神经网络引擎也都在各司其职,贡献自己的力量。尤其是传统的CPU,也在紧跟时代的脚步...……更多
功耗低至毫瓦级!苹芯科技发布存算一体NPU,交付多模态智能感知芯片
...科技创立于2021年2月,同年9月其基于SRAM架构的存内计算加速器S200测试成功,该成果还发表于素有“固态电路领域奥林匹克”之称的芯片顶会ISSCC 2022。今天的新品发布也是对其过去三年创业发展的阶段性总结。清华大学电子工程...……更多
Intel发威!酷睿Ultra 200S炸裂登场
...的能效、更智能的计算模式发展。这次的模块化设计和AI加速器的加入,使得芯片制造商可以更加灵活地满足不同类型用户的需求,针对性的设计不同用途的处理器。图源:英特尔例如,高性能游戏PC可以采用具有更多P核的配置...……更多
超星未来梁爽:软硬件协同优化,赋能AI 2.0新时代
...软硬件协同优化是现实可行的落地路径 过去十年被称为AI加速器的黄金十年,CNN加速器的能效已经提升到了100TOPS/W级别。大模型的规模以及参数增长速度远超CNN时代,大幅超出了传统计算硬件的增长速度。而当前大模型的处理器...……更多
高通自研Oryon CPU来袭,这款芯片到底“至尊”在哪儿?
...U。这款全新的Hexagon NPU,包含张量、标量、向量三种不同加速器,三款核心都得到了加强:向量加速器有6个核心,标量加速器有8个核心,用来满足生成式AI运算不断增长的需求。落实在体验层面,骁龙8至尊版可以在终端侧离线...……更多
骁龙8 Gen3正式发布:8K240手游成真!
...集合KryoGPU、AdrenoGPU、HexagonDSP、SpectraISP、标量/矢量/张量加速器、传感器中枢等各个单元的力量,还有针对音频、传感器加入的两个微型NPU单元。HexgonNPU升级了全新的微架构,包括硬件加速单元、微型区块推理单元(性能大大升级...……更多
三年追超苹果,从能效比到端侧AI,联发科为高端芯片树立新标杆
...比拼“极限性能”,如何在高性能的同时兼顾低功耗、高能效才是关键。一方面,端侧AI发展带来的新需求新场景进一步给手机能效提出了新的挑战,另一方面,应用功能越来越复杂、负载越来越重,移动端算力面临的挑战越来...……更多
双向赋能:AI与数据库的修行之道
...于数据压缩解压缩,以及英特尔®IAA(英特尔®存内分析加速器)加速数据分析。在数据安全方面,英特尔也能通过英特尔®TDX(英特尔®信任域扩展)和SGX(英特尔®软件防护扩展)为使用中的数据提供端到端硬件级防护能力。...……更多
掰开安卓手机 满屏都是三个字:大模型
...0%。具体而言,HexagonNPU升级了全新的微架构。更快的矢量加速器时钟速度、更强的推理技术和对更多更快的Transformer网络的支持等等,全面提升了HexgonNPU对生成式AI的响应能力,使得手机上的大模型“秒答”用户提问成为可能。He...……更多
高通骁龙x系列的实力到底如何?
...面临着一些现实问题。如制程工艺接近纳米极限所带来的能效比问题;传统PC行业格局多年来一成不变所造成的产品固化问题;以及x86架构平台的创新乏力问题等等。因此,传统PC行业在紧紧抓住AIGC这一创新命脉的同时,当然需...……更多
苏姿丰获itfworld2024大奖
...划,一个充满野心的计划:AMD正在努力实现2025年将计算能效提高到2020年的30倍的计划,而在这个计划之后,还有在2027年将能效提高到100倍(相对于2020年)的目标。图源:AMD计算能效,简单来说就是指计算机在执行计算任务时,...……更多
英特尔酷睿 Ultra 移动处理器发布:Intel 4 工艺,核显性能翻倍
...酷睿 Ultra 处理器采用了英特尔首个用于客户端的片上 AI 加速器“神经网络处理单元(NPU)”,将高能效 AI 加速提升到了新的高度,带来 2.5 倍于上一代产品的能效表现。 英特尔表示,正与 100 多家软件厂商紧密合作,为 PC 市...……更多
最高144核心!首款配备能效核英特尔至强6处理器发布
...了!在6月6日这个特别“6”的日子,英特尔推出首款配备能效核的英特尔至强6处理器产品(代号SierraForest)。同时,英特尔也介绍了在数据中心需求不断演进,不同应用场景需要更有针对性解决方案背景下,新的至强品牌主张——...……更多
全新英特尔 至强 可扩展处理器,打破数智化变革瓶颈的一板利斧
...,第五代英特尔® 至强® 可扩展处理器基于其内置的丰富加速器引擎,为各行各业提供了从AI部署到落地、从应用到创新的强劲性能支持,同时还能实现降本与安全的双协同,帮助企业更好地应对变革浪潮中直击命脉的痛点,实...……更多
天玑9400量产机Find X8 Pro实测太炸!
...发挥出芯片完整的计算能力,还有独家自研的全栈式算法加速器,深入安卓系统库和应用核心运行环境进行深度优化,指令更少,效率更高,最终实现了提升日常应用的流畅度和游戏帧率均的同时降低了功耗,果然还是那句话:...……更多
架构设计脱胎换骨!英特尔酷睿Ultra深度解析
...算模块,也就是我们熟悉的P-core和E-core,这次的性能核与能效核均采用全新的Intel4制程工艺打造,并且优化了电源管理和总线带宽。具体到E-core与P-core的变化,首先,酷睿Ultra平台的E-core微架构由Gracemont升级到了Crestmont,确保在...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...的DDR5 DIMM、3个PCIe控制器(共6个)、2个UPI(共4个)和2个加速器引擎(共4个)。对于较低核心数量的第五代至强处理器,英特尔则继续采用单芯片结构,英特尔称之为中等核心数的芯片(MCC),最多可以有32个核心。还有一种名...……更多
加州大学团队开发异构编程新模型,开辟提升处理器性能新路径
...证明,使用了不同处理模型与设计理念的协处理器和硬件加速器,都能以出色的性能执行相同的函数,这为 SHMT 的实现提供了可能。不过,要将同一函数的计算分解到不同类型的计算资源中,系统面临以下三个挑战:第一,SHMT ...……更多
更多关于科技的资讯:
加油站错加汽油后奔驰大G趴窝:维修需要七八十万
1月19日消息,车辆加错油品后果相当严重,运转时有可能导致发动机直接报废。据1818黄金眼报道,刘女士有一辆奔驰G 400d
2025-01-19 12:58:00
帧率暴增8倍!NVIDIA揭秘DLSS进化背后:大型超算6年全天无休工作
快科技1月19日消息,NVIDIA近日NVIDIA 揭开了DLSS使游戏帧率暴增的背后技术支持,一台专门用于持续改进DLSS技术的超级计算机
2025-01-19 13:28:00
针对近日美国商务部发布的人工智能相关出口管制临时最终规则,中国贸促会在昨天的发布会上代表中国工商界做出回应,美方再次滥用出口管制措施
2025-01-19 13:53:00
华流才是顶流:美国网友已经准备在屋前屋后种菜
快科技1月19日消息,近日疯狂涌入小红书的美国网友们已经学到了非常多的新技能,而这些,往往都由中国网友传授。近日,在美国俄勒冈州
2025-01-19 13:58:00
绝美惊艳!钱塘江涌现千姿百态“奇树”
快科技1月19日消息,近日,据媒体报道,浙江钱塘江潮退之后,涌现出了千姿百态的“奇树”!这些“参天大树”栩栩如生,是潮水与滩涂共同绘就的绝美画卷
2025-01-19 13:58:00
比亚迪腾势N7迎来OTA升级:新增城市领航与车道辅助功能
快科技1月19日消息,据媒体报道,比亚迪腾势N7近日宣布启动新年首次OTA升级。此次升级覆盖了城市领航(CNOA)、车道领航(ICC)以及自动紧急制动(AEB)等多项功能
2025-01-19 14:28:00
日产汽车全球裁员9000人 董事高管职位同步削减
快科技1月19日消息,日产汽车计划在全球范围内裁员约9000人,其中包括日本本土员工,同时将在4月对现有的63名高层管理人员进行缩减
2025-01-19 14:28:00
江西省人大代表郑波:为江西高质量发展增添“智慧引擎”
本文转自:人民网-江西频道江西省人大代表、江西迅特通信技术有限公司董事长郑波在“代表通道”上接受采访。人民网记者 时雨摄人民网南昌1月19日电(记者时雨)19日
2025-01-19 16:20:00
AI助力:男子用3000美元在家实现核聚变
快科技1月19日消息,据媒体报道,近日一位加拿大男子声称在AI的帮助下,仅花费3000 美元就在家中成功实现了核聚变。该男子化名Hudzah在其Substack上分享了实验过程
2025-01-19 10:58:00
雷军晒三十多年前“大哥大”:一台两三万 比现在的手机贵多了
快科技1月19日消息,今日,雷军在微博晒出一组“大哥大”的照片称:“大家见过最早的手机吗?三十多年前,当时叫大哥大,一台两三万
2025-01-19 10:58:00
雷军来宁德时代开着小米SU7 走的时候红光满面
快科技1月19日消息,近日,小米集团创始人兼CEO雷军亲自前往宁德时代总部进行拜访,受到了宁德时代董事长曾毓群的热情接待
2025-01-19 10:58:00
不愧是我爱的极氪
极氪系在这次懂车帝冬测里还挺给力的,冰雪弯道、70码制动等都名列前茅。我就说它家的智能驾驶很稳定吧~
2025-01-19 11:43:00
那些用开塞露涂脸的人:后来都怎么样了
关于“生活中便宜好用的护肤品”,之前我们讲了凡士林(可回顾往期文章),评论区有人问甘油,今天就来聊聊~图片来源:科普中国评论区相信很多人知道
2025-01-19 11:58:00
比亚迪多车已支持 博主:双枪充电含金量在25年会不断提升
快科技1月19日消息,对于电动车补能,目前主流的方法要么是超快充,要么是换电,也有车企有自己的坚持,比如比亚迪的双枪快充
2025-01-19 11:58:00
NVIDIA RTX 5090 Vulkan/OpenCL性能首曝!比RTX 4090提升37%
快科技1月19日消息,NVIDIA最新的GeForce RTX 5090显卡的Geekbench OpenCL和Vulkan API测试成绩首次曝光
2025-01-19 11:58:00