• 我的订阅
  • 科技

国产GPU为底座,摩尔线程首个千卡智算中心落地

类别:科技 发布时间:2023-12-20 09:46:00 来源:观察者网

12月19日,观察者网了解到,摩尔线程首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心揭幕仪式在北京举办,这宣告国内首个以国产全功能GPU为底座的大规模算力集群正式落地。

与此同时,摩尔线程联合国内众多合作伙伴发起并成立了摩尔线程PES -KUAE智算联盟和摩尔线程PES-大模型生态联盟,致力于夯实从智算基础设施到大模型训练与推理的国产大模型一体化生态。

摩尔线程CEO张建中在主题演讲中带来新品发布,包括大模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供强大支持的摩尔线程KUAE平台。

第三代MUSA内核

据介绍,摩尔线程大模型智算加速卡MTT S4000,采用第三代MUSA内核,单卡支持48GB显存和768GB/s的显存带宽。基于摩尔线程自研MTLink1.0技术,MTT S4000可以支持多卡互联,助力千亿大模型的分布式计算加速。同时,MTT S4000提供先进的图形渲染能力、视频编解码能力和超高清8K HDR显示能力,助力AI计算、图形渲染、多媒体等综合应用场景的落地。尤为重要的是,借助摩尔线程自研MUSIFY开发工具,MTT S4000计算卡可以充分利用现有CUDA软件生态,实现CUDA代码零成本迁移到MUSA平台。

摩尔线程KUAE智算中心解决方案以全功能GPU为底座,是软硬一体化的全栈解决方案,包括以KUAE计算集群为核心的基础设施、KUAE Platform集群管理平台以及KUAE ModelStudio模型服务,旨在以一体化交付的方式解决大规模GPU算力的建设和运营管理问题。该方案可实现开箱即用,大大降低传统算力建设、应用开发和运维运营平台搭建的时间成本,实现快速投放市场开展商业化运营。

国产GPU为底座,摩尔线程首个千卡智算中心落地

支持主流大模型训练和微调

分布式并行计算是实现AI大模型训练的关键手段。摩尔线程KUAE支持包括DeepSpeed、Megatron-DeepSpeed、Colossal-AI、FlagScale在内的业界主流分布式框架,并融合了多种并行算法策略,包括数据并行、张量并行、流水线并行和ZeRO,且针对高效通信计算并行和Flash Attention做了额外优化。

目前,摩尔线程支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言等各类主流大模型的训练和微调。基于摩尔线程KUAE千卡集群,70B到130B参数的大模型训练,线性加速比均可达到91%,算力利用率基本保持不变。以2000亿训练数据量为例,智源研究院700亿参数Aquila2可在33天完成训练;1300亿参数规模的模型可在56天完成训练。此外,摩尔线程KUAE千卡集群支持长时间连续稳定运行,支持断点续训,异步Checkpoint少于2分钟。

智算中心不应只是硬件的堆积

大模型时代,以GPU为代表的智能算力是基石,也是生成式AI世界的中心。

在本次活动上,摩尔线程联合中国移动北京公司、中国电信北京分公司、联想、世纪互联、光环新网、中联数据、数道智算、中发展智源、企商在线、北电数智北京数字经济算力中心、紫光恒越、瑞华产业控股(山东)、赛尔网络、中科金财、中耘智算、金舟远航(排名不分先后)等十余家企业,共同宣布“摩尔线程PES - KUAE智算联盟”成立。联盟将大力建设和推广从底层硬件到软件、工具到应用的全国产智算平台,旨在实现集群的高利用率,以好用、易用的全栈智算解决方案成为大模型训练首选。

活动现场,摩尔线程分别与中联数据和数道智算进行了现场签约,并共同为摩尔线程KUAE智算中心揭牌。现场200多名与会嘉宾一同见证了这一重要时刻。

国产GPU为底座,摩尔线程首个千卡智算中心落地

人工智能应用的突破,生态是关键

为此,摩尔线程携手360、飞桨、京东言犀、智谱AI、超对称、无问芯穹、滴普科技、网易、清华大学、复旦大学、浙江大学、北京理工大学、凌云光、瑞莱智慧、南威软件(排名不分先后)等多家大模型生态伙伴,发起并成立“摩尔线程PES - 大模型生态联盟”。摩尔线程将以MUSA为中心的软硬一体化大模型解决方案,积极与广泛的生态伙伴开展兼容适配及技术调优等工作,共同推动国产大模型生态的全面繁荣。

在最后的圆桌对话环节,摩尔线程副总裁董龙飞与中能建绿色数字科技(中卫)有限公司董事长墙虎、智谱AI CEO张鹏、京东云首席AI科学家裴积全、中金资本董事总经理翟赢、超对称创始人吴恒魁、数道智算董事长甄鉴等重磅嘉宾,就当前大模型的算力需求和智算中心的建设与运营等话题展开了深入探讨。

嘉宾一致认为,智算中心不应只是硬件的堆积,更是对软硬一体化的GPU智算系统整合能力的考验,GPU分布式计算系统的适配、算力集群的管理和高效推理引擎的应用等,都是提高算力中心可用性的重要因素。国产智算中心的发展,更是依托于将各方需求和优势充分融合,产业聚力才能实现整个生态的协同,推动国产事业往前发展。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-12-20 12:45:27

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

摩尔线程全国产千卡智算中心正式落地:国产GPU为底座的里程碑
近日,摩尔线程公司正式发布通告,宣布摩尔线程KUAE智算中心正式成立。这一举措具有划时代的意义,标志着国内首个以国产全功能GPU为底座的大规模算力集群正式落地。该中心的成立不仅彰
2023-12-23 13:56:00
国内首个以国产全功能GPU为底座的大规模算力集群正式落地
12月19日消息,今天,摩尔线程官方发布通告称,摩尔线程首个全国产千卡千亿模型训练平台,摩尔线程KUAE智算中心揭幕仪式成功举办。此举也代表着,国内首个以国产全功能GPU为底座的
2023-12-19 18:46:00
摩尔线程首个千卡智算中心落地 【摩尔线程首个千卡智算中心落地】《科创板日报》12月19日讯,今日,摩尔线程公司首个国产千卡千亿模型训练平台—摩尔线程KUAE智算中心在北京正式落地
2023-12-19 22:09:00
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...需求,国内GPU企业正加码算力基础设施建设。12月19日,摩尔线程首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心落地。据其介绍,这是国内首个以国产全功能GPU为底
2023-12-20 10:52:00
摩尔线程kuae千卡集群正式落地
12月19日消息,摩尔线程今日宣布,首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心揭幕仪式在北京成功举办,宣告国内首个以国产全功能GPU为底座的大规模算力集群正式落地
2023-12-20 06:02:00
摩尔线程、360达成战略合作!打造360智脑国产算力底座
快科技8月2日消息,今天摩尔线程宣布,在近日的第十二届互联网安全大会期间,摩尔线程与360集团宣布达成战略合作伙伴关系,并现场签署了战略合作协议。此次联手旨在聚焦数字安全、信息与
2024-08-02 11:05:00
又一AI芯片独角兽,启动上市
11月13日,证监会官网显示,国产GPU独角兽企业摩尔线程智能科技(北京)股份有限公司(下称“摩尔线程”)在北京证监局办理辅导备案登记,正式启动A股上市进程,辅导机构为中信证券股
2024-11-15 09:53:00
从0到1:国产化千卡集群的一小步,AI算力主动权的一大步
...产化集群更是迫在眉睫。值此关键节点,国内GPU头部创企摩尔线程推出的夸娥(KUAE)智算中心解决方案以全功能GPU为底座
2024-04-28 11:52:00
摩尔线程发布智算加速卡MTT S4000
12月19日消息,今天,摩尔线程发布了全新智算加速卡MTTS4000,训推兼顾专为大模型打造,单卡支持48GB显存。据介绍
2023-12-19 22:05:00
更多关于科技的资讯:
中新经纬10月23日电 题:“山姆们”为何加速布局下沉市场?作者 江瀚 盘古智库高级研究员近日,以盒马、山姆为代表的新零售企业加速向全国下沉市场布局
2025-10-23 14:10:00
让残片活成文明的密码:专访90后文物活化创业者苗毅斐
2025 年上半年,文物拍卖市场迎来全面复苏,头部拍卖行交出亮眼成绩单,佳士得亚洲春季拍卖斩获 22 亿港元,苏富比亚洲中国艺术品专场亦录得 7
2025-10-23 14:18:00
西瓜学员科创赛事创佳绩,勇夺全球发明大会公益主题奖
2025 年 7 月 26 日至 28 日,全球发明大会中国区(ICC)全国总决赛在河南郑州国际会展中心落下帷幕。作为教育部严格筛选出的 “白名单” 竞赛
2025-10-23 14:18:00
深夜的福州南站,本应是灯火渐暗、人潮散去的时刻。然而在10月20日凌晨,这里却灯火通明、人声鼎沸——中国铁路南昌局集团有限公司首次推出的“歌迷专列”正整装待发
2025-10-23 15:29:00
万达电影亮相版博会,授权+原创双管齐下诠释“版权正当潮”
2025年10月16日,第十届中国国际版权博览会在青岛国际会展中心(崂山馆)正式开幕,万达电影作为参展商亮相北京展区。万达电影以“版权正当潮”为题
2025-10-23 16:08:00
拼多多给员工发黄金,10年老员工直接领100克金子? 网友:还得是真金白银实在!
2025年是拼多多成立10周年,日前,有拼多多员工在社交平台上晒出了拼多多给员工赠送的“周年礼”。据拼多多员工晒出的“周年礼”
2025-10-23 17:15:00
鲁网10月23日讯(记者 于胜涛)如今走进青岛市即墨区第二人民医院,会发现曾经缴费窗口排起的长队变短了,窗口前的焦灼面容也减少了
2025-10-23 17:19:00
泉韵风雅 尊享折叠 心系天下三星W26品鉴会落地济南
鲁网10月23日讯泉城济南,历史与潮流交相辉映;匠心之作,传承与创新共谱新章,10月23日,心系天下三星W26品鉴会于济南举行
2025-10-23 17:21:00
泉城雅集品匠心,心系天下三星W26品鉴会济南举办
10月23日,历史文化名城济南迎来一场科技与美学交融的盛宴——心系天下三星W26品鉴会。作为三星电子与中国电信携手打造的第18代超高端旗舰
2025-10-23 17:48:00
据统计,我国家电保有量已超 30 亿台,大量老旧热水器存在能耗高(超期服役机型能耗比新品高 50% 以上)、安全隐患突出等问题
2025-10-23 17:57:00
海尔发明了三筒洗衣机,也发明了行业新品类
中国家电品牌在海外市场的拓展速度再次刷新了大众的认知。前不久,海尔三筒洗衣机作为首个出口东南亚的中国三筒洗衣机品牌,一亮相直接登陆越南第一大现代连锁渠道
2025-10-23 18:02:00
作为深耕热水器领域 32年的专业品牌,万和始终以 “技术创新驱动用户体验升级” 为核心,依托行业领先的蓝金刚内胆、精准恒温
2025-10-23 18:05:00
2025年前三季度,社会消费品零售总额同比增长4.8%,服务零售额增速更是快于商品零售近3个百分点,消费“压舱石”作用愈发凸显
2025-10-23 18:36:00
贵州火焰山电器:开足马力备战销售旺季 AI新品成市场“硬通货”
多彩贵州网讯 随着秋冬季节来临,黔北大地寒意初显,位于贵州省遵义市播州区的贵州火焰山电器股份有限公司内却是一片火热景象
2025-10-23 18:40:00
冲刺四季度 打好收官战丨湖北铝创铝业:优产品提质效 投产首年产值破3亿
十堰广电讯(全媒体记者 何旭 通讯员 胡新)进入四季度,湖北铝创铝业有限公司以提质增效为核心,通过引进先进设备、优化产品结构
2025-10-23 20:38:00