• 我的订阅
  • 科技

Intel正式发布Gaudi 3 AI加速器:1200W功耗!性价比两倍于NVIDIA H100

类别:科技 发布时间:2024-09-26 10:01:00 来源:快科技

早在4月份,Intel就宣布了新一代AI加速器Gaudi 3,现在它终于发布了,详细的规格参数也已出炉,竞争对手直指NVIDIA H100 GPU加速器,当然后者的Blackwell系列也要上量了。

Intel正式发布Gaudi 3 AI加速器:1200W功耗!性价比两倍于NVIDIA H100

Gaudi 3的规格提升幅度堪称跨越式的,制造工艺从台积电7nm来到台积电5nm,MME(矩阵乘法引擎)从2个增加到8个,虽然每个MME内部的TPC(张量处理核心)从12个减少到8个,但是总数从24个大幅增加到了64个,另外媒体解码器差从8个增至14个。

内置SRAM缓存容量翻番至96MB,带宽翻倍至12.8TB/s。

核心性能方面,MME BF16/FP8都是1835 TFlops(每秒1.835亿亿次),矢量BF16则是28.8 TFlops(每秒28.8万亿次),分别提升了3.2倍、1.1倍、1.6倍。

HBM2E高带宽内存容量从96GB增加到128GB(八颗),带宽也顺应增加来到惊人的3.7TB/s。

24个200Gb RDMA网络接口,双向网络互连带宽1.2TB/s,主机接口峰值双向带宽128GB/s,系统总线升级为PCIe 5.0 x16。

Intel正式发布Gaudi 3 AI加速器:1200W功耗!性价比两倍于NVIDIA H100

Intel正式发布Gaudi 3 AI加速器:1200W功耗!性价比两倍于NVIDIA H100

Intel正式发布Gaudi 3 AI加速器:1200W功耗!性价比两倍于NVIDIA H100

按照官方说法,Gaudi 3对比NVIDIA H100,LLM大模型推理性能领先50%、训练时间快40%,性价比则是对手的2倍。

开发方面,无缝兼容PyTorch框架、Hugging Face Transformer和扩散模型。

Gaudi 3加速器提供三种部署形态,一是OAM 2.0标准夹层卡,被动散热峰值功耗900W,液冷散热峰值功耗1200W,支持48个112Gb PAM4SerDes网络链接。

二是HLB-325通用基板,支持八颗Gaudi 3,具体功耗未披露。

Intel正式发布Gaudi 3 AI加速器:1200W功耗!性价比两倍于NVIDIA H100

三是HL-338扩展卡,PCIe 5.0 x16接口,被动散热峰值功耗600W,还可以四卡互连。

Intel正式发布Gaudi 3 AI加速器:1200W功耗!性价比两倍于NVIDIA H100

Intel正式发布Gaudi 3 AI加速器:1200W功耗!性价比两倍于NVIDIA H100

Intel此前已宣布,IBM将会在其云服务中部署Gaudi 3加速器。

另有消息称,Gaudi 3加速器也有中国特供版,其中OAM模组、PCIe模组的峰值功耗都限制至450W,算力自然也会大打折扣,但暂无更进一步说法。

Intel正式发布Gaudi 3 AI加速器:1200W功耗!性价比两倍于NVIDIA H100

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-09-26 14:45:12

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

1530亿晶体管死磕NVIDIA!AMD MIX300X加速卡功耗达750W
...就有700W。AMD还有个MIX300A,号称全球首款面向HPC、AI的APU加速器,整合了24个Zen4 CPU核心
2023-06-16 17:00:00
nvidia新一代gpu加速器b200即将发布
...,NVIDIA预计会在今年第二季度发布Blackwell架构的新一代GPU加速器\"B100\",官方称可轻松搞定1730亿参数大语言模型
2024-03-04 04:00:00
AI芯片成新一代电老虎:未来五年消耗全球1.5%以上的电力 产生11亿吨碳排放
...总功率为120千瓦。假设2025-2029年期间销售的所有数据中心加速器在5年的使用寿命中持续使用,在此期间的功耗保守为700W
2024-06-29 17:10:00
高通骁龙X Elite正式发布:12个4nm大核心
...出一辙,峰值算力45TOPS,也支持INT4整数格式,号称张量加速器性能提速2.5倍,共享内存容量增大2倍。传感器中枢做了大大简化
2023-10-25 20:48:00
专访ADI:探索AI MCU应用边界,集成CNN硬件加速器将是边缘AI处理的技术趋势
...器内核(ARM Cortex M4F和RISC-V)与一个卷积神经网络(CNN)加速器构成,该架构针对边缘进行了高度优化
2023-01-20 08:49:00
...8nm技术节点。2024边缘AI MCU优秀案例芯科科技集成AI/ML硬件加速器的32位MCU芯科科技(Silicon Labs)最新发布的EFM32PG26(PG26) 32位微控制器系列通过提升闪存和RAM容量
2024-06-04 10:12:00
Hailo获1.2亿美元新融资,首发AI加速器Hailo-10,助力边缘设备实现生成式人工智能
摘要:随着Hailo推出最新的人工智能加速器,其融资总额现已突破3.4亿美元。这款专为个人计算机和汽车行业打造的人工智能加速器,以出色的低功耗性能处理大型语言模型(LLM),成功
2024-04-03 11:36:00
AMD AI收入暴涨7倍!两大杀器呼啸而至:750W功耗
...的收入在当季暴涨了7倍,主要得益于不断丰富的InstinctAI加速器产品线,不过未公布具体数值。其中,MI300X已经出货并应用
2023-08-03 21:35:00
七彩虹将星x16pro评测
...和NVIDIAReflex技术,帧生成技术需要硬件上的AdaLovelace光流加速器的支持,因此DLSS3到目前为止是RTX40系列显卡专属的技术
2023-02-23 10:46:00
更多关于科技的资讯: