我们正处于一个信息大暴发的时代,每天都能产生数以百万计的新闻资讯!
虽然有大数据推荐,但面对海量数据,通过我们的调研发现,在一个小时的时间里,您通常无法真正有效地获取您感兴趣的资讯!
头条新闻资讯订阅,旨在帮助您收集感兴趣的资讯内容,并且在第一时间通知到您。可以有效节约您获取资讯的时间,避免错过一些关键信息。
快科技11月14日消息,NVIDIA Blackwell GPU相当强悍,大家都知道,但到底有多强呢?
除了官方宣传数据,现在终于第一次看到了实测数据,来自MLCommons MLPerf v4.1,考察AI训练推理性能的最佳平台。
对比对象是两代服务器HGX B200、HGX H200,前者包含多达八颗Blackwell GPU B200,单颗功耗高达1000W。
GPT-3预训练项目中,Blackwell的性能相比上代Hopper翻了一番。
Llama 2 700亿参数微调项目中,Blackwell的性能更是提升了多达2.2倍。
值得一提的是,Blackwell平台具备ConnectX-7 SuperNICs网卡、Quantum-2 InfiniBand交换机,再加上第五代NVLink互连总线,可以充分保障节点间的通信,可以平衡分配AI训练负载,整体效率更高。
比如同样的GPT-3 1750亿参数性能,Hopper需要多达256颗GPU,Blackwell就只需要64颗。
【本文结束】如需转载请务必注明出处:快科技
责任编辑:上方文Q
文章内容举报
以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。
快照生成时间:2024-11-14 23:45:13
本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。
信息原文地址: