• 我的订阅
  • 科技

NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍

类别:科技 发布时间:2024-08-26 09:50:00 来源:快科技

此前有消息称,NVIDIA Blackwell架构的新一代GPU推迟供货,但是官方没有承认,也没有否认,而是默默拿出了一套基于新一代GB200 GPU+GPU超级芯片的服务器系统,展示了一番。

GB200 Grace Blackwell包括两颗B200 GPU、一颗Grace CPU,总功耗高达2700W。

其中,B200拥有2040亿个晶体管、8096-bit 192GB HBM3E内存(带宽8TB/s),性能达到9PFlops(每秒9千万亿次),功耗首次达到1000W。

NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍

NVIDIA展示的服务器犹如一件艺术品,一条条蓝色和铜色排线,大量超粗直径铜管,超大体积的散热片,组成了一个庞然大物。

NVIDIA没有透露具体配置,只说分为有无NVSwitch两种版本,其总带宽高达14.4TB/s。

性能方面只给出了一个数据:Llama 3.1 700亿参数大模型的AI推理性能对比H200提高了足足1.5倍。

散热怎么办?NVIDIA透露正在开发热水散热系统,可以将耗电量减少28%。

NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍

不过,NVIDIA仍然没有给出Blackwell GPU服务器的出货时间,估计在今年第四季度。

即将到来的Hot Chip 2024大会上,NVIDIA会详细讲解Blackwell GPU,还会进一步披露未来Vera CPU、Rubin GPU的消息。

NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-08-26 12:45:01

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

推理性能飙升1.5倍!微软疯狂下单GB200芯片提升其AI算力
...展其AI计算能力。根据NVIDIA官方给出的数据,新一代GB200服务器系统在Llama 3.1 700亿参数大模型上的AI推理性能对比H200提高了足足1
2024-10-20 11:52:00
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...大型需求的企业提供成品服务,例如体积庞大的GB200 NVL72服务器,共包含36个CPU和72个Blackwell GPU
2024-03-19 08:53:00
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...在使用H100进行训练的人工智能公司,不需要改变他们的服务器系统或软件来适应H200。英伟达大规模与高性能计算副总裁Ian Buck表示,要利用生成式人工智能和高性能计算应用
2023-11-14 14:05:00
最强服务器CPU来了!AI性能直接翻倍
服务器CPU领域持续多年的核心数量大战,被一举终结了! 英特尔最新发布的至强®6性能核处理器(P-core系列),超越了过去单一维度的竞争,通过“升维”定义了新的游戏规则:
2024-09-27 20:45:00
AI大算力芯片行业报告:百舸争流,创新者先
...大约有600个超大规模的数据中心,每个都拥有超过5000台服务器,其中约39%在美国,是中国的4倍,而中国、日本、英国
2023-06-20 20:00:00
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...谷歌云年度大会Cloud Next 2024上宣布推出一款基于ARM架构的服务器芯片Axion,其性能比通用ARM芯片高30%
2024-04-10 11:22:00
ChatGPT掀AI热潮 这些芯片厂商将“狂飙”
...,英伟达、三星电子、SK海力士等都将受益。但是英伟达服务器用AI芯片方案存在发热和功耗过大的问题,谷歌、亚马逊AWS、三星电子、SK海力士、百度等科技巨头厂商也在开发各自的A
2023-02-14 14:00:00
亚马逊连甩6款大模型!推出3nm AI训练芯片,最强AI服务器算力爆表
...大模型,还推出3nm第三代AI训练芯片Trainum3及其迄今最强AI服务器Trn2 UltraServer。这是Amazon Nova系列基础模型首次亮牌
2024-12-05 09:47:00
NPU全球出货超1亿颗!芯原如何迎战大模型时代的边缘计算变革?
...来看,芯原AI-Computing IP产品体系全面覆盖数据中心、边缘服务器及端侧设备。其中,NPU IP VIP9X00是面向推断
2024-06-14 09:18:00
更多关于科技的资讯: