我们正处于一个信息大暴发的时代,每天都能产生数以百万计的新闻资讯!
虽然有大数据推荐,但面对海量数据,通过我们的调研发现,在一个小时的时间里,您通常无法真正有效地获取您感兴趣的资讯!
头条新闻资讯订阅,旨在帮助您收集感兴趣的资讯内容,并且在第一时间通知到您。可以有效节约您获取资讯的时间,避免错过一些关键信息。
NVIDIAGPU已经在AI、HPC领域遥遥领先,但没有最强,只有更强。
现在,NVIDIA又发布了全新的HGXH200加速器,可处理AIGC、HPC工作负载的海量数据。
NVIDIAH200的一大特点就是首发新一代HBM3e高带宽内存(疑似来自SK海力士),单颗容量就多达141GB(原始容量144GB但为提高良率屏蔽了一点点),同时带宽多达4.8TB/s。
对比H100,容量增加了76%,带宽增加了43%,而对比上代A100,更是容量几乎翻番,带宽增加2.4倍。
得益于NVLink、NVSwitch高速互连技术,H200还可以四路、八路并联,因此单系统的HBM3e内存容量能做到最多1128GB,也就是1.1TB。
只是相比于AMDInstinctMI300X还差点意思,后者搭载了192GBHBM3,带宽高达5.2TB/s。
性能方面,H200再一次实现了飞跃,700亿参数的Llama2大语言模型推理性能比H100提高了多达90%,1750亿参数的GTP-3模型推理性能也提高了60%,而对比前代A100HPC模拟性能直接翻番。
八路H200系统下,FP8深度学习计算性能可以超过32PFlops,也就是每秒3.2亿亿次浮点计算,堪比一台大型超级计算机。
随着未来软件的持续升级,H200还有望继续释放潜力,实现更大的性能优势。
此外,H200还可以与采用超高速NVLink-C2C互连技术的NVIDIAGraceCPU处理器搭配使用,就组成了GH200GraceHopper超级芯片,专为大型HPC、AI应用而设计的计算模块。
NVIDIAH200将从2024年第二季度开始通过全球系统制造商、云服务提供商提供。
以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。
快照生成时间:2023-11-14 21:45:06
本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。
信息原文地址: