• 我的订阅
  • 头条热搜
GPU训Llama 3.1疯狂崩溃,竟有大厂用CPU服务器跑千亿参数大模型?
...写带宽为437GB/s。这个数据,对于一些搭载GDDR显存的GPU或加速卡,可以说是毫不逊色。但仅靠硬件远远不够仅仅依靠硬件创新,是远远不够的,CPU很难进行大模型算法的大规模并行计算。正如开篇所述,大模型对通信带宽的要求...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...的芯片可有不同的组合方式,包括CPU+GPU、CPU+TPU、CPU+其他加速卡等。相比于通用服务器,AI服务器更适应AI训练和推理的大算力、高并发、大数据流转等需求,已经成为大模型时代的“香饽饽”。以热门AI服务器型号浪潮NF5688M6服...……更多
AMD MI300X AI加速卡超10万元!
最新消息显示,AMDInstinct系列AI加速卡有了更新。据称,AMDMI300X加速卡的大客户单价约为1万美元(约合人民币7.2万元),而其他客户则需要支付更高达1.5万美元(约合人民币10.8万元)的价格。虽然NVIDIA推出了更高级、更先进的H200141GB...……更多
创鑫智慧预告 CES 2024:将推 Raptor Gen AI 加速卡等产品
...稿,宣布将参加 2024 年 CES 大展,将推出新型 Raptor Gen AI 加速卡和 Evo PCIe 加速卡 LLM 产品。IT之家注:Raptor Gen AI 加速卡此前称为 N3000,帮助企业在现有解决方案情况下,小成本部署大型语言模型(LLM)。 Neuchips 首席执……更多
国产GPU为底座,摩尔线程首个千卡智算中心落地
...程CEO张建中在主题演讲中带来新品发布,包括大模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供强大支持的摩尔线程KUAE平台。第三代MUSA内核据介绍,摩尔线程大模型智算加速卡MTT S4000,采用第三代MUSA内核,单...……更多
amd第五代epyc处理器性能升级
...位升级。不仅如此,AMD还推出了全新的InstinctMI325/MI355XAI加速卡,新一代网络设备和DPU以及FPGA和AdaptiveSoC产品线的新品,共同为数据中心带来具有领导性地位的一整套解决方案。AMDEPYC9005系列处理器的具体型号与规格如下图所示:...……更多
...版和Edge10Max三款芯片,出货形态包括芯片、板卡、盒子、加速卡、推理服务器等,可广泛应用于AIoT边缘视频、移动机器人等场景。此外,依托Dee Edge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百...……更多
国科微车载serdes芯片亮相waic2024
...方案。国科微AI边缘计算芯片可使用在AI相机,AI模组、AI加速卡、AI智能终端以及边缘服务器等多种形态的边缘AI产品上,助力智能制造、智慧交通、智慧城管、智能机器人、无人驾驶车等应用领域的建设。当前,智能座舱和智能...……更多
英伟达计划2025年推出b200加速器
...业领导者在这方面取得的进展。目前,英伟达最顶级的AI加速卡H100的功耗最高为700W。然而,B200并不在英伟达去年10月份公布的路线图中,在图片中显示的GB200是一种GPU处理器。该公司尚未发布即将推出的B100产品的详细信息,可...……更多
发布一揽子新品,AMD再次挑战英伟达!但败局早已注定?
...列全新的产品,包括新一代的AI PC处理器、EPYC处理器、GPU加速卡等多款重磅产品。作为英伟达为数不多的友商,AMD对这一波新品寄予厚望,发布会还特意邀请了OpenAI、微软等巨头的大佬来站台,然而市场对其产品却不看好,其股...……更多
边缘大模型狂飙落地!清华系GPGPU惊艳WAIC,解读“六边形战士”处理器
...家。WAIC上,一家清华系GPGPU创企的展台上,我们看到其AI加速卡AzureBlade K340l已经可以支撑大模型跑在AI PC等设备上,并已经适配Llama 3-8B、Stable Diffusion、通义千问等开源模型。 这家创企的技术实力不容小觑。本月初,芯动力科技...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...款最热门产品的产能和需求,但据外媒报道,今年内H100加速卡的产能至少同比增长了3倍,且仍有许多产能瓶颈无法解决。比如台积电5nm生产线产能,英伟达的GPU必须使用台积电的CoWoS封装技术,市面上完全找不到别的替代品。...……更多
智算领航,移动云携手伙伴共筑大国智能基座!
...算中心作为全球运营商最大单体智算中心,部署约2万张AI加速卡,AI芯片国产化率超85%,智能算力规模高达6.7EFLOPS(每秒670亿亿次浮点运算),中心从投产即开始承接大模型训练任务,入选我国“2023年度央企十大超级工程”。大...……更多
...增长。公司PCB业务在高速通信网络、数据中心交换机、AI加速卡、存储器等领域的PCB产品需求将受到上述趋势的影响。哈药股份7月以来也合计接受超过10次机构调研,主要是电话会议形式。在7月26日的调研中,哈药股份董事会秘...……更多
英伟达将推出b200加速器,暗示将达到1000W
...实现大规模水冷散热所做的工作。目前英伟达最顶级的AI加速卡H100功耗最高700W。B200并不在英伟达去年10月公布的路线图上,图片中的GB200是一款GPU处理器。该公司还没有发布即将推出的B100的详细信息,可能会在本月晚些时候举...……更多
竹溪县:加“数”奔跑 打造秦巴地区算力枢纽
...力,其技术底座是由华为数万核鲲鹏处理器内核及数千张加速卡构成,围绕算力、数据、算法、场景和生态来进行展开,将为本地和全国的客户提供普惠算力。 “国芯一号”是由科大讯飞公司提供技术运营支撑的全省第二个县...……更多
国产大模型第一梯队玩家,为什么pick了CPU?
...经验还表示: 不仅如此,利用充足的CPU资源,降低对于AI加速卡的需求,从而降低LLM推理服务的总体拥有成本(TCO),特别是在离线的LLM推理场景中表现出色。而且在千帆大模型平台上,可不止是有自家的ERNIE,还有很多主流的大...……更多
amd发布新一代面向ai/hpc加速器
...U+GPU的融合加速器。对于MI300X这款APU,AMD对比英伟达的H100加速卡,分享了MI300X的一些性能参数情况,具体数值如下:内存容量是H100的2.4倍;内存带宽是H100的1.6倍;FP8TFLOPS精度是H100的1.3倍;FP16TFLOPS精度是H100的1.3倍;在1v……更多
【玖越机器人】视频网站为了降本纷纷砍画质,为何只有谷歌仍在坚持?
...所以谷歌采用了固件管理的队列来启用并发转码。编辑VCU加速卡/ 谷歌比如某个操作是“将这一帧的画面编码为VP9位流,”那么应用程序负责将指令写入队列中,固件则只负责队列调度和编解码器核心的激活。如此一来编程只发...……更多
AI加速卡液冷设计白皮书正式发布!宁畅参与起草
近日,由宁畅参与起草的《基于标准PCIe接口的人工智能加速卡液冷设计》白皮书正式发布。该技术白皮书由开放计算标准工作委员会(OCTC)归口,旨在为冷板式人工智能加速卡的设计提供重要指导。大模型时代下,AI算力需求...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...进行大幅提升。英伟达于2022年发布了基于Hopper架构的H100加速卡,而现在推出基于Blackwell的加速卡在性能上也得到了全面提升,更擅长处理AI相关任务。从外观来看,Blackwell GPU的体积明显大于H100,采用台积电的4纳米(4NP)工艺...……更多
郭明錤:amd明年ai加速卡出货量为英伟达10%
...发布的市场研究简报中认为,以MI300A为主,AMD公司明年AI加速卡出货量约为英伟达(基于CoWoS)的10%。AMD明年AI加速卡最大的客户是微软,出货量占比超过50%;其次是亚马逊;另外Meta和谷歌两家公司目前正在测试AMD的AI加速卡,预...……更多
近日,高通公司发布了新一代云AI推理加速卡——CloudAI100Ultra。这款产品专为生成式AI和大型语言模型而设计,提供相当于上一代产品四倍的性能。新款CloudAI100Ultra可部署的模型规模进一步扩大,单张150W的卡上可部署100B参数模...……更多
中京电子:AI相关GPU加速卡等产品正加快开展相关客户认证和量产准备工作 【中京电子:AI相关GPU加速卡等产品正加快开展相关客户认证和量产准备工作】财联社12月14日电,中京电子在互动平台表示,公司800G光模块用PCB样品及A...……更多
寒武纪思元系列加速卡完成与百川智能旗下大模型适配 【寒武纪思元系列加速卡完成与百川智能旗下大模型适配】《科创板日报》6日讯,寒武纪今日宣布,近期公司思元(MLU)系列云端智能加速卡与百川智能旗下的大模型Baichu...……更多
NVIDIA AI加速卡涨到43万元 还得等1年!
NVIDIAAIGPU无疑是当下的抢手货,但一方面产能严重不足,另一方面价格不断飙升,让不少客户望而却步。当然,NVIDIA并不是唯一的选择,Intel、AMD也都有类似的方案。韩国头号搜索引擎Naver最近就转投了Intel。Naver原本使用NVIDIAGPU...……更多
摩尔线程kuae千卡集群正式落地
...全功能GPU为底座的大规模算力集群正式落地,大模型智算加速卡MTTS4000也同步发布。附MTTS4000参数如下:摩尔线程大模型智算加速卡MTTS4000,采用第三代MUSA内核,单卡支持48GB显存和768GB/s的显存带宽。基于摩尔线程自研MTLink1.0技术...……更多
超万卡集群让算力迈上新台阶
...大超万卡智算集群,在哈尔滨智算中心共计部署1.8万张AI加速卡。截至目前,该集群具有单集群算力规模最大,国产化网络设备组网规模最大,国内智能融合分级存储规模最大等特点,可实现集群故障的分钟级定界定位,提供算...……更多
AI芯片下半场:英伟达不再一家独大
...分向客户提供。另一个芯片大厂AMD也在不久前推出了最新加速卡Instinct MI300X。在发布会现场,PPT上专门打出一行字——大语言模型专用,这被业界视为直接向英伟达宣战。据悉,MI300X的高带宽内存(HBM)密度最高可达英伟达H100...……更多
万国觉醒压堡怎么玩 万国觉醒最详细的压堡教程
... 第一,采集资源,第二,探索迷雾,第三,屯兵屯粮屯加速卡。所谓的冰是炮车,所谓的量是道具里面的量。所谓的加速卡有多重要就不必多说了吧,龙场啊,牧场啊,采石场啊。升级,九天时间升到七级绰绰有余,包括这些...……更多
更多关于科技的资讯:
专访复旦大学教授沈涵:打造“城市级剧本游”,发动“全民共创”
齐鲁晚报•齐鲁壹点 高雅洁 李潇10月22日,“数智文旅 媒动山海”城市文旅品牌建设交流会在青岛举行。复旦大学旅游学系教授
2025-10-22 20:32:00
10月21日小店政务发布信息,小店区审批局积极推进“开办便利店一件事”集成服务改革,通过流程再造、帮办代办服务、市场需求调研等
2025-10-22 18:56:00
10月22日从中北高新区获悉,该区企业山西天成半导体材料有限公司继今年成功研制12英寸导电型碳化硅单晶材料后,依托自主研发设备再度攻克12英寸高纯半绝缘碳化硅单晶材料技术难关
2025-10-22 18:56:00
亚太森博装备技术创新中心正式投入使用
随着日照市“亚太森博杯”浆纸产业链职工职业技能大赛的盛大启幕,公司装备技术创新中心同步正式启用。创新中心充分整合多方资源
2025-10-22 19:21:00
山东外国语职业技术大学教授入选“全球前2%顶尖科学家”榜单
近日,美国斯坦福大学联合爱思唯尔数据库(Elsevier Data Repository)发布了《全球前2%顶尖科学家榜单(World's Top 2% Scientists)》
2025-10-22 19:23:00
富士康储能项目量产,致力于打造全球首个“储能灯塔工厂”
大河网讯 预计年均省电超千万元,年产能将达到3GWh的规模……富士康旗下储能品牌“富储科能”近日在郑州航空港举行富士康储能量产暨新品发布会
2025-10-22 19:27:00
华为鸿蒙操作系统 6 正式发布!余承东评论区被“催产”mate80
华为鸿蒙6.0系统正式版于今日(10月22日)发布,Mate 80系列预计将首发搭载。鸿蒙6.0系统以更好看、更好用、更智能
2025-10-22 15:56:00
视源股份肖航:“中国制造”正成为传递创新、可靠与高品质的“新名片”
肖航接受人民日报海外网采访“通过建立深度本地化的运营与服务团队,我们的MAXHUB已成功在全球超过140个国家和地区提供服务
2025-10-22 14:05:00
中国消费名品全国行(河北站)“清河羊绒”供需对接活动举办供需双向奔赴 品牌加速出圈10月21日,中国消费名品全国行(河北站)“清河羊绒”供需对接活动在邢台市清河县举办
2025-10-22 08:10:00
雄安建设者拍雄安|你好,雄安图书馆!
9月26日拍摄的雄安图书馆。9月27日,雄安图书馆少儿阅览区,图书管理员带着小读者通过智能书架挑选图书。拍摄者:齐劲青 中建八局(北京)建设投资有限公司市场部业务经理拍摄时间
2025-10-22 08:19:00
五年千亿研发淬炼,小米携手粤港澳大湾区共筑“同心圆”
10月15日,以“同心湾区,论道未来”为主题的2025粤港澳大湾区人工智能技术发展论坛在珠海美高梅华府酒店隆重举行。本次论坛由珠海市委统一战线工作部指导
2025-10-22 08:30:00
鞍矿爆破“露天矿山智能爆破关键技术研究与应用”项目入选“中国好技术”项目库
近日,由中国生产力促进中心协会联合全国各级生产力促进中心、行业协会及专业机构共同发起的2024年度“中国好技术”评选正式落下帷幕
2025-10-22 08:30:00
厦门网讯(厦门日报记者 李晓平)机器人赛道正吸引越来越多厦企参与。20日,联合星辰(厦门)科技有限公司(以下简称“联合星辰”)
2025-10-22 08:57:00
从场景破题 大力推进福建省(厦门)人工智能产业园建设
厦门网讯(厦门日报记者 林露虹 通讯员 管轩 雷飏) 走进厦门软件园,你会发现“人工智能 +”的创新应用图景正徐徐展开
2025-10-22 08:57:00
《全国中老年艺术等级考评规范》团体标准深圳秘书处挂牌
日前,《全国中老年艺术等级考评规范》团体标准深圳秘书处在十方融海梨花教育办公区正式挂牌。当前,我国人口老龄化程度持续加深
2025-10-22 09:05:00