• 我的订阅
  • 头条热搜
从架构、工艺到能效表现,全面了解LLM硬件加速,这篇综述就够了
...预测文本并能回答问题、总结文本等。 本文对使用硬件加速器来加速 Transformer 网络所做的一些研究工作进行了全面的调查。该调查介绍了已提出的框架,然后对每个框架的技术、处理平台(FPGA、ASIC、内存、GPU)、加速、能源...……更多
AI时代 CPU依然是中流砥柱!AMD EPYC树立新标杆
...是AI推理,都对硬件算力提出了空前苛刻的极高需求,GPU加速器、FPGA/ASIC加速器等各种专用硬件变得异常火爆,在消费级端无论PC还是智能手机都纷纷加入了专用的NPU硬件引擎。这种情况下,CPU通用处理器似乎变得不重要了,在...……更多
ai生命周期:ai训练和ai推理的完美结合
...规模的算力。在这一阶段,往往优先使用大规模并行的GPU加速器或专用的AI加速器,有时候根据情况也可以使用超高性能的CPU处理器。AI推理则是基于训练好的模型,实时处理输入的数据,只需较小的算力,更接近数据的实际位...……更多
intel造了一颗“算力存力核弹”
...单颗处理器的功耗直飚500W——当然,跟同期发布的GaudiAI加速器的新品或类似的加速器产品相比,能耗是应有的代价,有能力提升性能上限才是正经事。内存性能大跃进内存(DRAM)的数据存储依赖电容,这个特点使其微缩和提速...……更多
22年后英特尔放弃了超线程!Lunar Lake架构深度解析
...图形性能提高了1.5倍。全新的XMX矩阵扩展单元作为第2个AI加速器,可以提供高达67TOPS的性能,为AI内容创作提供出色的吞吐量,能够为人工智能应用在集显上运行提供更好的性能。 总结来说,全新的Xe集显加上软件优化,与上一...……更多
英特尔发布至强6能效核处理器:全E核设计加速数据中心能效升级
...持CXL2.0的Type1、Type2以及Type3设备。该新标准将使计算机与加速器、内存扩展器和其他设备等组件更容易地进行连接与通信。至强6700和6900系列处理器都有能效核和性能核的版本,当中至强6700最多144个效能核或86个性能核,最高TDP3...……更多
把AI带到桌面端!英特尔酷睿Ultra 200S系列台式机处理器解析
...AI算力的调用尽管仍集中在GPU,但是已经倾向于采用多个加速器的异构算力配置,CPU、GPU、NPU协同作业可以针对不同场景和需求,灵活平衡负载功耗,满足高能效需求,特别是针对移动平台能够保障续航。而且NPU的加入在执行某...……更多
为什么第三代骁龙8的性能如此优秀
...速单元、微区块推理单元以及性能加强的张量/标量/向量加速器。同时,由于HexagonNPU的向量加速器与内存直连,在执行量化、压缩和编译等任务更高效,时延也更低。因此,搭载第三代骁龙8的旗舰所内置的生成式AI助手在无需联...……更多
搭载苹果M4的新款iPad现身Geekbench
...度最高可达每秒38万亿次;内置的新一代机器学习(ML)加速器;先进媒体引擎支持AV1解码,以及H.264、HEVC和ProRes等流行的视频编码。 ……更多
第三代骁龙8技术规格解析 手游进入240帧时代
...ady的调制解调器及射频系统,也是首个采用专用硬件张量加速器(第二代高通5GAI处理器)的调制解调器及射频系统。第二代高通5GAI处理器的AI性能提升至第一代的2.5倍以上,同时引入了第二代高通5GAI套件,实现更高的连接速度...……更多
英特尔酷睿ultra处理器正式推出,多线程性能领先
...多工作,目前英特尔计划到2025年推出超过1亿台的带有AI加速器,也就是NPU的电脑投放到市场上。目前,在英特尔生态系统里有大量的合作伙伴正在开发AI应用,或者是利用AI重塑已有的应用。根据英特尔提供的数据,目前英特尔...……更多
苹果发布全新M4芯片,强悍AI性能秒杀AI PC
...行引擎。两种核心也都采用了性能更强的新一代机器学习加速器。相比M2芯片,M4芯片的中央处理器性能提升最高达1.5倍。无论是处理LogicPro中复杂的交响乐项目,还是在LumaFusion中为4K视频添加对性能要求极高的效果,M4芯片能为...……更多
AI时代CPU不老!Intel五代至强五大革新:340亿参数小意思
...将超过50%。AI大模型等应用最需要的当然是高算力,GPU加速器随之变得炙手可热,但是AI的发展与变革同样是多元化的,CPU通用处理器、NPU神经网络引擎也都在各司其职,贡献自己的力量。尤其是传统的CPU,也在紧跟时代的脚步...……更多
功耗低至毫瓦级!苹芯科技发布存算一体NPU,交付多模态智能感知芯片
...科技创立于2021年2月,同年9月其基于SRAM架构的存内计算加速器S200测试成功,该成果还发表于素有“固态电路领域奥林匹克”之称的芯片顶会ISSCC 2022。今天的新品发布也是对其过去三年创业发展的阶段性总结。清华大学电子工程...……更多
Intel发威!酷睿Ultra 200S炸裂登场
...的能效、更智能的计算模式发展。这次的模块化设计和AI加速器的加入,使得芯片制造商可以更加灵活地满足不同类型用户的需求,针对性的设计不同用途的处理器。图源:英特尔例如,高性能游戏PC可以采用具有更多P核的配置...……更多
超星未来梁爽:软硬件协同优化,赋能AI 2.0新时代
...软硬件协同优化是现实可行的落地路径 过去十年被称为AI加速器的黄金十年,CNN加速器的能效已经提升到了100TOPS/W级别。大模型的规模以及参数增长速度远超CNN时代,大幅超出了传统计算硬件的增长速度。而当前大模型的处理器...……更多
高通自研Oryon CPU来袭,这款芯片到底“至尊”在哪儿?
...U。这款全新的Hexagon NPU,包含张量、标量、向量三种不同加速器,三款核心都得到了加强:向量加速器有6个核心,标量加速器有8个核心,用来满足生成式AI运算不断增长的需求。落实在体验层面,骁龙8至尊版可以在终端侧离线...……更多
骁龙8 Gen3正式发布:8K240手游成真!
...集合KryoGPU、AdrenoGPU、HexagonDSP、SpectraISP、标量/矢量/张量加速器、传感器中枢等各个单元的力量,还有针对音频、传感器加入的两个微型NPU单元。HexgonNPU升级了全新的微架构,包括硬件加速单元、微型区块推理单元(性能大大升级...……更多
三年追超苹果,从能效比到端侧AI,联发科为高端芯片树立新标杆
...比拼“极限性能”,如何在高性能的同时兼顾低功耗、高能效才是关键。一方面,端侧AI发展带来的新需求新场景进一步给手机能效提出了新的挑战,另一方面,应用功能越来越复杂、负载越来越重,移动端算力面临的挑战越来...……更多
双向赋能:AI与数据库的修行之道
...于数据压缩解压缩,以及英特尔®IAA(英特尔®存内分析加速器)加速数据分析。在数据安全方面,英特尔也能通过英特尔®TDX(英特尔®信任域扩展)和SGX(英特尔®软件防护扩展)为使用中的数据提供端到端硬件级防护能力。...……更多
掰开安卓手机 满屏都是三个字:大模型
...0%。具体而言,HexagonNPU升级了全新的微架构。更快的矢量加速器时钟速度、更强的推理技术和对更多更快的Transformer网络的支持等等,全面提升了HexgonNPU对生成式AI的响应能力,使得手机上的大模型“秒答”用户提问成为可能。He...……更多
高通骁龙x系列的实力到底如何?
...面临着一些现实问题。如制程工艺接近纳米极限所带来的能效比问题;传统PC行业格局多年来一成不变所造成的产品固化问题;以及x86架构平台的创新乏力问题等等。因此,传统PC行业在紧紧抓住AIGC这一创新命脉的同时,当然需...……更多
苏姿丰获itfworld2024大奖
...划,一个充满野心的计划:AMD正在努力实现2025年将计算能效提高到2020年的30倍的计划,而在这个计划之后,还有在2027年将能效提高到100倍(相对于2020年)的目标。图源:AMD计算能效,简单来说就是指计算机在执行计算任务时,...……更多
英特尔酷睿 Ultra 移动处理器发布:Intel 4 工艺,核显性能翻倍
...酷睿 Ultra 处理器采用了英特尔首个用于客户端的片上 AI 加速器“神经网络处理单元(NPU)”,将高能效 AI 加速提升到了新的高度,带来 2.5 倍于上一代产品的能效表现。 英特尔表示,正与 100 多家软件厂商紧密合作,为 PC 市...……更多
最高144核心!首款配备能效核英特尔至强6处理器发布
...了!在6月6日这个特别“6”的日子,英特尔推出首款配备能效核的英特尔至强6处理器产品(代号SierraForest)。同时,英特尔也介绍了在数据中心需求不断演进,不同应用场景需要更有针对性解决方案背景下,新的至强品牌主张——...……更多
全新英特尔 至强 可扩展处理器,打破数智化变革瓶颈的一板利斧
...,第五代英特尔® 至强® 可扩展处理器基于其内置的丰富加速器引擎,为各行各业提供了从AI部署到落地、从应用到创新的强劲性能支持,同时还能实现降本与安全的双协同,帮助企业更好地应对变革浪潮中直击命脉的痛点,实...……更多
天玑9400量产机Find X8 Pro实测太炸!
...发挥出芯片完整的计算能力,还有独家自研的全栈式算法加速器,深入安卓系统库和应用核心运行环境进行深度优化,指令更少,效率更高,最终实现了提升日常应用的流畅度和游戏帧率均的同时降低了功耗,果然还是那句话:...……更多
架构设计脱胎换骨!英特尔酷睿Ultra深度解析
...算模块,也就是我们熟悉的P-core和E-core,这次的性能核与能效核均采用全新的Intel4制程工艺打造,并且优化了电源管理和总线带宽。具体到E-core与P-core的变化,首先,酷睿Ultra平台的E-core微架构由Gracemont升级到了Crestmont,确保在...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...的DDR5 DIMM、3个PCIe控制器(共6个)、2个UPI(共4个)和2个加速器引擎(共4个)。对于较低核心数量的第五代至强处理器,英特尔则继续采用单芯片结构,英特尔称之为中等核心数的芯片(MCC),最多可以有32个核心。还有一种名...……更多
加州大学团队开发异构编程新模型,开辟提升处理器性能新路径
...证明,使用了不同处理模型与设计理念的协处理器和硬件加速器,都能以出色的性能执行相同的函数,这为 SHMT 的实现提供了可能。不过,要将同一函数的计算分解到不同类型的计算资源中,系统面临以下三个挑战:第一,SHMT ...……更多
更多关于科技的资讯:
本文转自:人民网-北京频道人民网北京1月14日电 1月14日上午,北京市第十六届人民代表大会第三次会议在北京会议中心开幕
2025-01-14 10:16:00
本文转自:人民网唐佳“一台无人机飞到空中后,可以为两到三个足球场范围的场地提供整晚不间断照明。”近日,一款轻巧、智能化的高亮度照明保障系统
2025-01-14 10:22:00
15W无线充退场!三星将推新款无线充电芯片:功率增至50W
快科技1月14日消息,近日,三星宣布推出全新无线充电芯片S2MIW06,这款芯片支持高达 50W 的无线快充,标志着无线充电技术迈入全新阶段
2025-01-14 10:23:00
赢麻了!小红书下载量飙升登顶美国App Store:挤满“TikTok难民”
快科技1月14日消息,据媒体报道,随着TikTok“不卖就禁”法案既定生效日期1月19日日益临近,有关诉讼战也进入关键时刻
2025-01-14 10:23:00
全汉发布VIC-GD系列电源:支持ATX 3.1规范、最高可选850W
快科技1月14日消息,据报道,全汉正式推出VIC-GD(维克)系列电源新品,支持Intel ATX v3.1及EPS 12V v2
2025-01-14 10:23:00
智能辅助驾驶能力再升级!新款比亚迪元PLUS实车曝光
快科技1月14日消息,新款比亚迪元PLUS实车图已在工信部曝光。作为改款车型,新车在外观上进行了调整,并预计将对驾驶辅助系统进行升级
2025-01-14 10:23:00
小红书国际版app走红美国网络 掀起相关科技概念股涨停潮
快科技1月14日消息,综合媒体报道,随着TikTok禁令引发的担忧情绪不断升级,中国另一热门社交媒体应用——RedNote(即小红书国际版)在美国网络上迅速蹿红
2025-01-14 10:23:00
连水母都不吃了 日本翻车鱼因没游客自闭:饲养员扎草人解闷
1月13日消息,动物是否会有情绪?答案是肯定的,有些甚至会自闭,比如大家熟知的陪伴型动物,如狗、猫,你可能想不到的是,就连鱼也有这种情况存在
2025-01-14 10:23:00
国内服装跨境电商巨头宣布实施4.5天工作制:不降薪、不裁员
快科技1月14日消息,据“临平发布”,日前,杭州临平上市公司子不语集团宣布实施4.5天工作制,周五只上半天班,且公司不降薪
2025-01-14 10:23:00
京东物流全国首座飞鹤乳业物流标杆仓在武汉正式运营 作业效率提高40%
2025年刚开年,京东物流与飞鹤乳业联合打造的全国首座物流标杆仓正式投入使用。这座位于武汉的物流标杆仓,不仅拥有数万平方米的仓库面积
2025-01-14 10:25:00
品牌公关专家葛柱宇2024河南品牌年会分享公关决胜之道
2025年1月11日,郑州·河南中州皇冠假日酒店内气氛热烈,2024河南品牌年会在此盛大启幕。来自政、商、产、学、研、媒
2025-01-14 10:51:00
北美门店不消费不让进!星巴克中国称国内门店仍免费开放
快科技1月14日消息,今日,词条#美国星巴克不再免费开放#登上微博热搜,引起网友热议。星巴克日前宣布了一项新的顾客行为准则
2025-01-14 10:53:00
全球最薄折叠屏!OPPO Find N5厚度曝光:跟两枚硬币相当
快科技1月14日消息,OPPO周意保测试了Find N5折叠屏的厚度,称这是全球最薄的折叠屏。据悉,OPPO Find N5的单边厚度比4张身份证要厚
2025-01-14 10:53:00
港片宝藏重见天日
Shout!Studios宣布一举收购金公主娱乐(Golden Princess)所持有的156部香港经典电影全球版权
2025-01-14 10:53:00
法拉利停路边被熊孩子恶意刮花 车主:家长赔偿16000元
快科技1月14日消息,各位家长需要注意,一定要管好自家的孩子,否则可能需要交一大笔学费。近日在安徽马鞍山,一条“熊孩子刮花法拉利”的视频引起网友热议
2025-01-14 10:53:00