• 我的订阅
  • 科技

推理性能飙升1.5倍!微软疯狂下单GB200芯片提升其AI算力

类别:科技 发布时间:2024-10-20 11:52:00 来源:浅语科技

快科技10月20日消息,分析师郭明錤的最新报告指出,NVIDIA GB200芯片订单量迎来爆炸性增长,其中微软第四季度订单量激增3到4倍,超过所有其他云服务商的总和。

他指出,NVIDIA Blackwell芯片的产能扩张预计将于2024年第四季度初启动,预计第四季度出货量在15万到20万块之间,而2025年第一季度出货量将增长200%到250%,达到50万到55万块。

据报道,微软在2024年第四季度的Blackwell GB200订单量已从之前的300—500个机柜激增至约1400—1500个机柜,其中约70%为NVL72型号,增幅最高达400%。

富士康和广达负责交付微软的Blackwell系统,根据两家公司的调查,微软的Blackwell GB200订单量遥遥领先其他云服务提供商,并且该公司正在迅速扩展其AI计算能力。

根据NVIDIA官方给出的数据,新一代GB200服务器系统在Llama 3.1 700亿参数大模型上的AI推理性能对比H200提高了足足1.5倍。

此外,微软还计划在低温数据中心部署GB200服务器,以缓解冷却系统的潜在压力。

其他云服务提供商订单量则显著低于微软,如亚马逊在2024年第四季度有300—400机柜GB200 NVL36订单,而Meta则专注于Ariel架构,订单量也未能与微软相提并论。

推理性能飙升1.5倍!微软疯狂下单GB200芯片提升其AI算力

【本文结束】如需转载请务必注明出处:快科技

责任编辑:黑白

文章内容举报

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-10-20 17:45:06

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

微软连发3款Phi-3.5模型:128K上下文,首用MoE架构,部分性能超GPT-4o mini
智东西8月21日消息,今天,微软一口气甩出3款超强轻量级模型!微软本次发布的轻量级模型系列名为Phi-3.5,适合在内存和算力受限的环境中运行
2024-08-22 09:49:00
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...馈普遍不佳,认为其产品仓促、性能和体验不及 ChatGPT或微软推出的GPT-4版必应搜索。如今,谷歌终于准备好反击了
2023-12-07 13:02:00
微软:从“软件老大”到“AI帝国”
从2009开始开发AI模型,到2019年投资OpenAI,微软正在一步一步成为AI时代的庞然大物。对于微软及其生态系统而言
2023-11-21 10:45:00
微软难以摆脱英伟达 |焦点分析
作者|杨逍编辑|苏建勋微软推出自研芯片,人工智能市场拉开新序幕。11月16日,微软在其科技大会上发布了两款自研芯片——用于云端训练和推理的AI芯片Azure Maia 100
2023-11-20 13:32:00
微软宣布Team Copilot发布,年内将推出初步预览版
当地时间5月21日,美国科技公司微软召开年度Build2024开发者大会。在CEO纳德拉的带领下,微软各个产品团队再一次展现出惊人的执行力,在发布会上又拿出了接近50个新产品或功
2024-05-22 20:01:00
系统级玩家微软、苹果先后出牌,端侧大模型路径清晰了?
...。直到近期,大模型融入终端真正迎来关键节点。5月,微软发布Copilot + PC, 紧接着6月,苹果发布Apple Intelligence
2024-06-21 09:16:00
微软紧随英伟达发布芯片,老黄还不慌吗?
微软Ignite技术大会在西雅图揭幕。集团CEO纳德拉带来了长达一个小时的揭幕演讲,介绍微软在ESG、新一代空芯光纤、AzureBoost数据中心等项目的新动态
2023-11-23 09:36:00
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...竞争对手。相比之下,Groq、SambaNova、英特尔、亚马逊、微软等公司仍无法与之抗衡。此外,为了应对英伟达基于CUDA构建的护城河
2023-11-06 15:12:00
AI芯片下半场:英伟达不再一家独大
...D等半导体巨头公布新一轮的AI芯片研发计划,后有OpenAI、微软等下游客户推动自研芯片,以打破英伟达的垄断。微软自研当地时间11月15日,微软在西雅图举行的Ignite开发
2023-11-16 23:46:00
更多关于科技的资讯: