- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...会主任、企业BG总裁汪涛正式发布全新架构的昇腾AI计算集群——Atlas900SuperCluster，可支持超万亿参数的大模型训练。据介绍，新集群采用了全新的华为星河AI智算交换机CloudEngineXH16800，借助其高密的800GE端口能力，两层交换网络...……更多
2023-09-21 06:47:00集群,架构,模型,训练,参数,全新
华为推出昇腾AI计算集群 可支持超万亿参数大模型训练 【华为推出昇腾AI计算集群 可支持超万亿参数大模型训练】《科创板日报》20日讯，华为今日推出全新架构的昇腾AI计算集群——Atlas 900 SuperCluster，可支持超万亿参数的大...……更多
2023-09-20 14:55:00华为,集群,模型,训练,参数,支持
...，而整个网络世界也就成为了一个巨大的异构的AI服务器集群。——任何有相关算力的设备都可以参与到训练过程之中。实验证明，本文的方法基本不会导致模型性能下降，同时DisTrO-AdamW在收敛速度方面，也与标准的AdamW+All-Reduce...……更多
2024-09-10 13:39:00训练,分布式,世间,整合,全新,通信
...模型之后微调得到的。BatchSize：batchsize是逐渐上升的，在集群中经过几天的时间达到一个数值。最终，OpenAI的BatchSize达到了6000万！也就是每个专家大约有750万的token数量，但是并不是每个专家都能看到所有的tokens。并行策略：由...……更多
2023-07-12 20:14:00挖出,架构,模型,成本,训练,秘密
...算力需求对 GPU 等硬件提出了更高要求，大规模 GPU 算力集群成为必然选择。这也是为什么近年来国内外科技厂商纷纷布局 AI 算力基础设施，死磕万卡甚至 10 万卡集群。此外，大规模算力集群也越来越凸显训推一体的重要性，寻...……更多
2024-09-26 13:37:00万卡,百舸,通途,集群,模型,百舸
...言模型的下一代产品——Llama 3。据介绍，Llama 3 在 24K GPU 集群上训练，使用了 15T 的数据，提供了 8B 和 70B 的预训练和指令微调版本，可以支持广泛的应用。同时，Llama 3 在广泛的行业基准测试中达到了 SOTA，并提供了新的功能，...……更多
2024-04-20 11:03:00模型,训练,参数,数据,全球,模型
...就越多。需要说明的是，大型语言模型训练依赖于组织成集群的众多图形处理器，这些集群是互连的图形处理器阵列，可以执行训练具有数十亿参数的模型所需的大量计算。在集群内的处理器之间分配计算需要持续的通信，这往...……更多
2024-06-18 16:13:00处理器,图形,模型,高达,训练,语言
...100天，折算成H100则需要1000张；Meta今年推出2个24576张H100集群，用于训练Llama 3等新模型；本周马斯克自曝新版Grok 3训练用了10万张H100 GPU。在国内，万卡集群建设高歌猛进。去年7月，华为昇腾AI集群规模扩展至16000卡；10月，科大...……更多
2024-07-09 09:47:00摩尔,张建中,万卡,张建,集群,线程
...正在和华为一道打造面向超大规模大模型训练的国产算力集群，形成集群化优势。“科大讯飞和华为已在联合攻关算力卡脖子的问题。”8月15日，科大讯飞董事长刘庆峰在合肥举办的讯飞星火认知大模型V2.0升级发布会上表示。...……更多
2023-08-16 09:02:00讯飞,华为,英伟,软硬,一体机,模型
...云侧大模型可以实现快速迭代。其中，浸没GPU+IB网络训练集群，让训练性能相比传统风冷提升8+%，同时让能效提升45%，算力应用密度提升400+%。非常难得的是，OPPO还与MediaTek的深度合作，率先在行业采用4位量化技术(行业最优大...……更多
2024-01-10 12:06:00模型,参数,应用,行业,小布,模型
...训练的10亿参数语言模型系列（LMs），在AMDInstinct™MI250GPU集群上训练，使用了超过1.3万亿个tokens进行预训练，让模型在处理自然语言任务时具有强大的推理能力。IT之家援引新闻稿，OLMo模型采用解码器（decoder-only）架构，并通过...……更多
2024-11-09 00:21:00模型,参数,语言,模型,开发者,训练
...云推出大模型训练“黄金三件套”。新一代HCC高性能计算集群，支持超过10万张卡并行计算，在同等数据集下，可以将万亿参数大模型的训练时间缩短至4天。腾讯自研星脉高性能计算网络，具备业界最高3.2T通信带宽，通信性能...……更多
2024-05-24 17:14:00长三角,腾讯,集群,模型,产业,世界
...商，其中亚马逊将构建一个包含20000个GB200芯片的服务器集群。思科、戴尔、惠普、联想和超微电脑等大量企业也都已经把提供基于Blackwell产品的各种服务提上了日程。英伟达表示，新芯片预计将于今年晚些时候上市，但目前还...……更多
2024-03-19 11:56:00英伟,地表,教主,英伟,模型,人工智能
...上是一个认知误区，大模型训练的实现依靠的是一个算力集群，包含整套的服务。但不是所有企业都能驾驭大规模算力集群，这注定是一场少数人的游戏。事实上，微软和OpenAI的合作也已经证明，用云来训练大模型，似乎是更合...……更多
2023-06-29 12:00:00狂热,深度,模型,理性,训练,媒体
...此，北京大学林宙辰、徐鑫提出了一种全新混合序列建模架构 ——MixCon，它为解决这些难题带来了创新性的方案。经实验验证，其性能远超 Mixtral、Mamba 和 Jamba。论文已在 European Conference on Artificial Intelligence (ECAI)……更多
2024-10-16 13:34:00序列,架构,北大,混合,团队,性能
...不移的发展自主可控的国产技术方案，持续壮大国产智算集群规模，才能一路突破围追堵截，进一步促进国产大模型产业生态繁荣。作为中立、安全的云计算服务厂商，优刻得持续发力人工智能智算领域，与国内主流AI芯片厂商...……更多
2024-06-27 19:01:00集群,落地,模型,国产,训练,支持
...687亿亿次浮点运算。“悟空智算”是海州区人工智能产业集群项目，目前已建成集高性能、消费级和国产算力的算力中心，总算力超6876P，是工信部认证的工业智算基地（华东）经济聚集区域节点，也是全国首个基于公安网的人...……更多
2025-06-19 10:06:00连云,悟空,连云港,行动,国家,悟空
...这些成本具有很大的好处，构建成本和能耗高效型计算机集群也就自然成了一个热门的研究方向。近日，DeepSeek（深度求索）发布了一份基于硬件发展的实际情况及其多年实践经验的研究成果，其中提出了一些用于构建用于深度...……更多
2024-09-07 09:44:00高性能,架构,深度,多年,成本,学习
...快推出MoE大模型，1-5月发布千亿以上大模型均采用MoE优化架构，且数量超过近三年总和。MoE大模型架构凭借平衡大模型训推成本和计算效率等优势，更适合处理大规模数据和复杂任务，已成谷歌、OpenAI、阿里、腾讯等企业控制成...……更多
2024-11-04 16:00:00研究方向,模型,现状,方向,趋势,研究
...拟化、KubeSphere Cloud云原生SaaS服务平台等,也形成了覆盖多集群管理、DevOps、微服务、可观测性、Serverless等云原生业务场景的解决方案,并积累了大量的生产实践。容器是云原生最核心的技术之一,但对于很多企业而言,容器和Kubernet...……更多
2023-07-03 11:00:00青云,干货,布局,科技,青云,服务
...练分别消耗了总计算成本的 56% 和 44%。模型在 8×H100 GPU 集群上的总时钟训练时间为 2.6 天，相当于在 8×A100 GPU 集群上为 6.6 天。了解更多结果，请参考原论文。 ……更多
2024-07-30 09:37:00从头,模型,训练,参数,掩蔽,训练
...学习原理，其发展离不开海量数据信息的投入。面对智算集群目前存在的可用度、推理体验等问题，华为推出业界首款AI存储——OceanStor A800，致力于成为支撑智算集群发展的关键基座。智算集群为千行万业发展新质生产力夯基...……更多
2024-12-19 18:16:00华为,集群,中国,中国移动,存储,规模
...第一，引领算力创新，通过系统级的创新，从单点算力到集群算力，让发展有根基。第二，突破软件架构，通过软硬协同创新，全流程加速大模型开发，让创新有源泉。第三，使能行业升级，改变开发模式，推动产业协同，打通...……更多
2023-07-13 19:00:00华为,根基,智能,模型,开发,人工智能
...新升级的阿里云人工智能平台PAI，底层采用HPN7.0新一代AI集群网络架构，可高效协同调度各类芯片，支持高达10万卡量级的集群可扩展规模，让超大集群像一台计算机般高效运转。阿里云PAI可支撑多个万亿参数大模型同时训练，...……更多
2023-11-01 12:00:00阿里,模型,时代,模型,阿里,通义
...星通话，首个端侧应用70亿参数大模型，首次亮相的潮汐架构等诸多前沿技术。此次宣布的全新技术组合将全面落地下一代旗舰产品FindX7系列，为2024年旗舰手机树立全新的技术标杆，并为消费者带来刷新标准的创新旗舰体验发布...……更多
2023-12-28 10:13:00模型,参数,应用,技术,模型,芯片
... 飞天智算平台做支撑。这是一个超大规模的高性能计算集群，是国内唯一能实现万卡规模的 AI 集群。给你一万张 A100，就能把 ChatGPT 训出来吗？答案无疑是否定的。万卡集群对于网络、存储和通信有极高的要求，弄得不好直接...……更多
2023-03-01 03:00:00模型,训练,达摩,参数,能力,集群
...AGI元年（2024）。自2017年谷歌提出Transformer机器学习模型架构后，该架构迅速席卷了整个人工智能领域，成为自然语言处理等相关研究的主要方法。2018至2020年是算法创新年，先后出现了基于Transformer的BERT、GPT/GPT-2/GPT-3、T5等基于...……更多
2024-06-05 18:36:00清华,模型,教授,性能,方法,模型
...业客户、伙伴及开发者提供更好的服务。昇腾AI云服务单集群提供2000P Flops算力，千卡训练30天长稳率达到90%，为业界提供稳定可靠的AI算力，让大模型触手可及。华为常务董事、华为云CEO张平安重磅发布盘古大模型3.0张平安表示...……更多
2023-07-10 18:01:00盘古,华为,百业,模型,服务,盘古
...台风未来10天的路径，需要在3000台服务器的高性能计算机集群上花费5小时进行仿真。现在基于预训练的盘古气象大模型，通过AI推理的方式，研究者只需单台服务器上单卡配置，10秒内就可以获得更精确的预测结果。在金融领域...……更多
2023-07-07 16:34:00盘古,华为,模型,盘古,模型,华为
...为面向万亿参数大模型时代，推出全新架构的昇腾AI计算集群——Atlas 900 SuperCluster，可支持超万亿参数的大模型训练。新集群采用了全新的华为星河AI智算交换机，使用了创新的超节点架构，大大提升了大模型训练能力。
会上...……更多
2023-09-22 10:45:00华为,选择,世界,华为,智能,模型
更多关于科技的资讯：
从“实验室”走向“生产线”，助力6000多家科创企业驶上发展“高速路”南京云恒：这个科创“陪跑者”不简单图为云恒中试制造中心内
2025-08-15 07:43:00
南报网讯（通讯员高媛记者夏思宇）高击穿电场、高热导率、高电子迁移率、高工作温度……作为第三代半导体的主要代表材料之一，氮化镓在半导体功率器件领域的应用前景愈发受到行业关注
2025-08-15 07:44:00
8月9日，晚风裹挟着汾河的湿润气息，掠过山西体育中心体育场璀璨的灯火。看台上，数万名歌迷挥舞荧光棒的浪潮与手机屏幕闪烁的光海交相辉映
2025-08-15 07:59:00
大众网记者 王文文 菏泽报道当近视手术的科技齿轮持续向前，全飞秒SMILE技术早已从最初的3.0版本，悄然迭代至更精准的4
2025-08-14 10:33:00
“2015年，我们说孩子是互联网原住民；2025年，他们将成为AI原住民。”伴鱼CEO黄河的这个判断，勾勒出教育代际变迁的轮廓
2025-08-14 11:02:00
在工业制造向智能化转型的关键时刻,质检环节正面临前所未有的技术挑战与升级机遇。8月19日,国内领先的AOI(自动光学检测)专有设备制造商中科慧远将举行新品发布会
2025-08-14 11:02:00
北京大学光华管理学院近日聘任国际投资人与Web3.0企业家刘晓俊先生为创业导师，任期自2025年5月至2028年6月。刘晓俊先生长期深耕全球创新投资
2025-08-14 11:02:00
鲁网8月14日讯日前，国网济宁供电公司创新研发的全国首套“模块化、快接式、智慧型”配电预制舱完成送电，有效破解了老旧小区改造空间受限
2025-08-14 11:18:00
消费日报网讯（记者郑红梅）近日，“海南农商银行内训师队伍建设点灯人计划 — 标准化内训课程开发工作坊” 在中国(海南)改革发展研究院圆满收官
2025-08-14 11:21:00
大众网记者 王亮 烟台报道这是一件普通的、黄色夹克外套？不，这是一件高科技的、碳中和的、“绿色的”夹克。中国首款“零碳”工装
2025-08-14 11:30:00
编者按：在中国光大银行烟台分行，有这样一群人，从辛勤耕耘到运筹帷幄，他们在自己的岗位上默默奉献，用智慧和汗水浇灌着分行的发展之花
2025-08-14 11:33:00
跨界破圈迎增长，30周年献礼开启家居产业新纪元在当下挑战与机遇并存的全球经贸环境下，中国国际家具展览会迎来了30周年的荣耀时刻
2025-08-14 11:35:00