• 我的订阅
  • 科技

替代NVIDIA,摩尔线程&无问芯穹联手首次实现国产GPU端到端AI大模型实训

类别:科技 发布时间:2024-05-27 15:11:00 来源:了不起的云计算

近日,NVIDIA在国内市场挑战越来越大,在5月25日的文章《受华为AI芯片挑战,NVIDIA中国特供GPU降价?》中我们了解到,NVIDIA现在受华为的昇腾910B等竞争产品的影响,被迫将其一些产品的价格定得低于中国国内竞争对手硬件的价格,并且由于需求疲软,市场上有大量的英伟达芯片供应。

而在今天,摩尔线程、无问芯穹更是放出大招,联合宣布正式完成MT-infini-3B 3B(30亿参数)规模大模型的实训,而使用的平台就是摩尔线程国产全功能GPU MTT S4000组成的千卡集群,以及无问芯穹的AIStudio PaaS平台。

替代NVIDIA,摩尔线程&无问芯穹联手首次实现国产GPU端到端AI大模型实训

这次实训充分验证了夸娥千卡智算集群在大模型训练场景下的可靠性,同时也在行业内率先开启了国产大语言模型与国产GPU千卡智算集群深度合作的新范式,完全可以替代NVIDIA。

目前,实训出来的MT-infini-3B性能在同规模模型中跻身前列,相比在国际主流硬件上(尤其是NVIDIA)训练而成的其他模型,在C-Eval、MMLU、CMMLU等3个测试集上均实现性能领先。

替代NVIDIA,摩尔线程&无问芯穹联手首次实现国产GPU端到端AI大模型实训

长期以来,由于国内GPU厂商产品缺乏竞争力,即使在美国贸易限令的情况下,NVIDIA的显卡在国内也是“一卡难求”,GPU价格更是水涨船高。如今摩尔线程国产全功能GPU MTT S4000组成的千卡集群,也能够很好的满足国内人工智能、大模型计算等业务场景需求。

摩尔线程是第一家接入无问芯穹并进行千卡级别大模型训练的国产GPU公司,夸娥千卡集群已与无穹Infini-AI顺利完成系统级融合适配,完成LLama2 700亿参数大模型的训练测试。

替代NVIDIA,摩尔线程&无问芯穹联手首次实现国产GPU端到端AI大模型实训

无问芯穹联合创始人兼 CEO 夏立雪表示,当前无问芯穹正在打造“M 种模型”和“N 种芯片”之间的“M x N”中间层产品,实现多种大模型算法在多元芯片上的高效、统一部署,已与摩尔线程达成深度战略合作,而目前“MT-infini-3B”这一训练成果是行业内首次实现基于国产 GPU 芯片从 0 到 1 的端到端大模型实训案例。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-05-27 17:45:09

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

国产GPU为底座,摩尔线程首个千卡智算中心落地
12月19日,观察者网了解到,摩尔线程首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心揭幕仪式在北京举办,这宣告国内首个以国产全功能GPU为底座的大规模算力集群正式落地
2023-12-20 09:46:00
摩尔线程GPU适配超图软件大模型:打造国产地理空间AI
快科技10月24日消息,摩尔线程官方宣布,摩尔线程MTT S/X系列全功能GPU与超图软件最新发布的大模型系列产品,经双方严格测试,顺利完成产品兼容认证。适配调优后的软件在摩尔线
2024-10-24 01:55:00
摩尔线程、360达成战略合作!打造360智脑国产算力底座
快科技8月2日消息,今天摩尔线程宣布,在近日的第十二届互联网安全大会期间,摩尔线程与360集团宣布达成战略合作伙伴关系,并现场签署了战略合作协议。此次联手旨在聚焦数字安全、信息与
2024-08-02 11:05:00
国产GPU万卡集群终于来了!摩尔线程CEO张建中:做难而正确的事
...万卡是最低标配!”在2024世界人工智能大会开幕前夕,摩尔线程创始人兼CEO张建中抛出一句掷地有声的断言。为什么必须是万卡?大模型行业变化很快,客户希望两周内结束战斗,最迟也
2024-07-09 09:47:00
加速替代CUDA!摩尔线程开源vLLM-MUSA 加速国产GPU AI
快科技11月5日消息,近日,摩尔线程上线了大语言模型高速推理框架开源项目vLLM的MUSA移植版本,为开发者提供基于摩尔线程全功能GPU进行开源项目MUSA移植的范例
2024-11-05 21:09:00
从0到1:国产化千卡集群的一小步,AI算力主动权的一大步
...产化集群更是迫在眉睫。值此关键节点,国内GPU头部创企摩尔线程推出的夸娥(KUAE)智算中心解决方案以全功能GPU为底座
2024-04-28 11:52:00
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...需求,国内GPU企业正加码算力基础设施建设。12月19日,摩尔线程首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心落地。据其介绍,这是国内首个以国产全功能GPU为底
2023-12-20 10:52:00
国产GPU力挺!摩尔线程宣布支持满血Deepseek-V3-0324
... V3模型完成小版本升级,版本号为DeepSeek-V3-0324。27日晚,摩尔线程宣布,其迅速响应并完成了对DeepSeek-V3的无缝升级
2025-03-28 00:35:00
摩尔线程GPU千卡集群完成师者AI 70亿参数教育大模型训练测试
快科技6月14日消息,摩尔线程与全学科教育AI大模型“师者AI”联合宣布,双方已完成大模型训练测试。师者AI基于摩尔线程夸娥(KUAE)千卡智算集群,完成了其70亿参数大模型的高
2024-06-14 11:37:00
更多关于科技的资讯: