- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
微软发布Azure ND H100 v5虚拟机
11月21日，微软的AzureAI基础设施进行了升级，并推出了全新系列的NDH100v5虚拟机。这款虚拟机搭载了英伟达最新的H100TensorCore图形处理单元（GPU）和低延迟网络技术。
该虚拟机在美国东部和美国中南部的Azure区域已经可供使用。它配备了八个英伟达H100TensorCoreGPU，比上一代虚拟机性能更强大，可显著提升AI模型的训练和推理速度。同时，微软选择了第四代英特尔XeonScalable处理器作为新一代计算机处理单元。
此外，NDH100v5VM还采用了英伟达Quantum-2ConnectX-7InfiniBand技术，每个GPU可提供400Gb/s的带宽，每个VM可提供3.2Tb/s的跨节点带宽。通过PCIeGen5提供每GBPS的带宽，则可以实现高效传输数据。
对于内存方面，该系列虚拟机使用DDR5内存，具有更高的数据传输速度和效率。微软表示，在矩阵乘法操作中使用新的8位FP8浮点数据类型时，该系列虚拟机相较于前一代的FP16可能更加高效，甚至提升了六倍以上。
值得注意的是，这款虚拟机还特别适用于大型语言模型如BLOOM175B端到端模型，实现了最高两倍的推理速度提升。随着AzureAI基础设施的升级，我们可以期待更多类似功能和性能提高的产品在未来出现。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2023-11-22 00:45:07
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
