• 我的订阅
  • 头条热搜
寒武纪思元系列加速卡完成与百川智能旗下大模型适配 【寒武纪思元系列加速卡完成与百川智能旗下大模型适配】《科创板日报》6日讯,寒武纪今日宣布,近期公司思元(MLU)系列云端智能加速卡与百川智能旗下的大模型Baichu...……更多
边缘大模型狂飙落地!清华系GPGPU惊艳WAIC,解读“六边形战士”处理器
...家。WAIC上,一家清华系GPGPU创企的展台上,我们看到其AI加速卡AzureBlade K340l已经可以支撑大模型跑在AI PC等设备上,并已经适配Llama 3-8B、Stable Diffusion、通义千问等开源模型。 这家创企的技术实力不容小觑。本月初,芯动力科技...……更多
2023年AI的钱被谁赚走了?
...亏损收窄,研发投入占据营收157.53%。2023年其智能芯片及加速卡实现收入1.01亿元,在大模型领域与部分公司达成了算力产品合作和大模型适配。 景嘉微(300474.SZ)表示2023年其GPU产品的应用场景由图形渲染领域扩展至AI训练、AI...……更多
AI加速卡液冷设计白皮书正式发布!宁畅参与起草
近日,由宁畅参与起草的《基于标准PCIe接口的人工智能加速卡液冷设计》白皮书正式发布。该技术白皮书由开放计算标准工作委员会(OCTC)归口,旨在为冷板式人工智能加速卡的设计提供重要指导。大模型时代下,AI算力需求...……更多
国产GPU万卡集群终于来了!摩尔线程CEO张建中:做难而正确的事
...》中的夸娥氏二子那般不畏艰难,持之以恒,将一块块GPU加速卡垒成一个强大的计算集群。这是一套以全功能GPU为底座,软硬一体化、完整的系统级算力解决方案,包括以夸娥计算集群为核心的基础设施、夸娥集群管理平台(KUA...……更多
国产GPU为底座,摩尔线程首个千卡智算中心落地
...程CEO张建中在主题演讲中带来新品发布,包括大模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供强大支持的摩尔线程KUAE平台。第三代MUSA内核据介绍,摩尔线程大模型智算加速卡MTT S4000,采用第三代MUSA内核,单...……更多
宝德携手英特尔至强W处理器加速数智创新应用
...站PT6630W2采用至强®W-3300系列处理器,支持PCIe4.0、双宽GPU加速卡、最多8块热插拔3.5/2.5英寸SATA/SAS硬盘,具备丰富的异构扩展性和灵活的连接能力,可支持大模型快速导入导出,从多方位驱动AIGC算力,满足不同行业用户的多样化...……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...位的可观测能力,对资源池、队列、节点、任务、实例、加速卡等多个维度实现了无死角的覆盖。 自动容错能力,百舸 Flash Checkpoint 故障恢复机制实现秒级 Checkpoint 和近乎无损的 Step 粒度容错。此外为 PyTorch 大模型训练场景开...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...希姆STCP920系列采用12nm工艺,是基于RISC-V的人工智能计算加速卡,具备较高的云端AI计算能效比和可编程性,混合支持FP16/INT8数据类型。希姆计算将其在传统AI场景里的方案针对大模型进行了专门的优化,姚金鑫坦言,这一一体机...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...的芯片可有不同的组合方式,包括CPU+GPU、CPU+TPU、CPU+其他加速卡等。相比于通用服务器,AI服务器更适应AI训练和推理的大算力、高并发、大数据流转等需求,已经成为大模型时代的“香饽饽”。以热门AI服务器型号浪潮NF5688M6服...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...集群。同时,摩尔线程CEO张建中在当天发布了大模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供支持的摩尔线程KUAE平台。近年在AI热潮之下,国内的智算中心不断兴建。根据此前国家信息中心联合浪潮信息发布...……更多
GPU训Llama 3.1疯狂崩溃,竟有大厂用CPU服务器跑千亿参数大模型?
...写带宽为437GB/s。这个数据,对于一些搭载GDDR显存的GPU或加速卡,可以说是毫不逊色。但仅靠硬件远远不够仅仅依靠硬件创新,是远远不够的,CPU很难进行大模型算法的大规模并行计算。正如开篇所述,大模型对通信带宽的要求...……更多
...版和Edge10Max三款芯片,出货形态包括芯片、板卡、盒子、加速卡、推理服务器等,可广泛应用于AIoT边缘视频、移动机器人等场景。此外,依托Dee Edge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百...……更多
英伟达特供芯片卖不动了?黄仁勋穿上东北花袄“示好”,中国大厂难掩AI野心
...时代财经记者提供的资料,旗下思元芯片近期接连宣布与百川智能、智象未来等厂商旗下大模型完成全面适配。“生态构建是目标,芯片只是基础,更重要的是在芯片之上构建函括架构平台、软件工具、操作系统和应用场景等一...……更多
推理成本直降99%!百川智能「1+3」矩阵揭秘,两张4090玩转旗舰新模型
【新智元导读】大模型热,企业落地难?就在刚刚,百川智能推出「1+3」产品矩阵,一站式解决大模型商业化难题。「系列优质通用数据+领域增强训练工具链」,仅需10分钟就能让企业自主成为模型定制增强专家,实现行业最...……更多
AI落地千行百业,存储痛点凸显,浪潮信息如何助力AI向实?
...率需达到90%或70%,在这一区间内考核节点所能支持的最大加速卡数,测试其能否尽可能跑满每个客户端的理论带宽,以实现最佳存储性能。在MLPerf存储基准测试中,由于理论带宽是统一的,因此所有厂商的解决方案均可归一化到...……更多
百川智能完成3亿美元A1轮融资,阿里、腾讯、小米等巨头参投
...叶峰《每日经济新闻》记者获悉,10月17日,王小川旗下百川智能官宣已完成A1轮战略融资,融资金额3亿美元,阿里、腾讯、小米、深创投等科技巨头及多家顶级投资机构参投。对于百川智能的这一轮融资,有知情人士告诉每经...……更多
中国移动董事长:打造一批万卡级智算集群,加快超算等多种类型社会算力并网
...),目前已投产使用。据了解,该智算中心部署约2万张AI加速卡,AI芯片国产化率超85%,智能算力规模高达6.7EFLOPS(每秒670亿亿次浮点运算)。中国移动方面表示,上述智算中心填补了我国人工智能广泛应用所需算力的巨大缺口...……更多
英伟达联手Zilliz发布全球首个GPU加速向量数据库
...主要研发、生产、销售印制电路板(PCB),公司配套AI GPU加速卡的PCB产品部分已经实现批量生产。一博科技专注于为客户提供高速PCB研发设计和PCBA研发打样、中小批量制造服务这一主业,近年来每年服务的客户超过3,000家,业务...……更多
让大模型“外挂硬盘”,百川智能发布新API系列,企业定制成本大大降低
...题在于——如何让大模型高效地在实际应用场景中落地?百川智能的最新实践是:用大模型+增强技术,可以大大提升企业应用大模型的效率。现在,全球大模型领域都在“开卷”长文本,这是目前大模型能否落地更多场景的关...……更多
PC开启AI时代:行业要变天
...支持AI软件开发。或许仅从性能角度来看,可配备显卡、加速卡的工作站、台式机更胜一筹,但是多数用户手中的笔记本,特别是轻薄本,在体验方面更有看点。毕竟在PC端能够部署终端侧AI,而终端侧AI的优势可不仅是低时延、...……更多
“硬核”麒麟,点燃创新引擎
...发的智算算力网已并网5地6个智算平台,纳管主流异构AI加速卡,支撑了国内科研院所、高校和智算公司训练超过10个百亿级大模型。中国科学院工程热物理研究所瞄准长时储能领域的重大科技问题,推进国际首套百兆瓦级压缩空...……更多
近日,高通公司发布了新一代云AI推理加速卡——CloudAI100Ultra。这款产品专为生成式AI和大型语言模型而设计,提供相当于上一代产品四倍的性能。新款CloudAI100Ultra可部署的模型规模进一步扩大,单张150W的卡上可部署100B参数模...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...B左右的内存,即使完全忽略内存消耗,也需要305张Groq LPU加速卡才够用。如果考虑到内存消耗,可能需要572张Groq LPU加速卡。官方数据显示,Groq LPU的平均功耗为185W,即使不计算外围设备的功耗,572张Groq LPU加速卡的总功耗也高...……更多
青岛三年内将打造2-3个国家级新一代人工智能开放创新平台!
...下步,一是面向人工智能训练和推理,积极招引人工智能加速卡、处理器芯片等智能硬件企业,提升图像、光电、声学、压力等智能传感器产品研发制造水平。二是支持软件企业与硬件企业深度合作,重点开发复杂算法软件,推...……更多
英伟达尖端图像处理半导体h200开始供货
...运算处理装置)组合的新产品用于最新的LLM上。“最强AI加速卡”GB200包含了两个B200BlackwellGPU和一个基于Arm的GraceCPU ,推理大语言模型性能比H100提升30倍,成本和能耗降至25分之一。GB200采用新一代AI图形处理器架构Blackwell,黄仁...……更多
英特尔预计2024年正式上市Gaudi3,用于生成式AI模型
...展处理器也一同发布。发布会期间,阿li云、火山引擎、百川智能、联想等大厂到场为英特尔“站台”。“在中国国内已经有超过20家硬件合作伙伴和7家云服务商基于第五代至强处理器准备好了全新的服务器和云服务。”英特尔...……更多
字节、阿里云大降价之后,百度:两款主力大模型全面免费
...言模型,兼顾优异的模型效果与推理性能,适合低算力AI加速卡推理使用。ERNIE Speed则是百度的自研高性能大语言模型,通用能力优异,适合作为基座模型进行精调,能更好地处理特定场景问题,同时具备极佳的推理性能。此外...……更多
国产大模型第一梯队玩家,为什么pick了CPU?
...经验还表示: 不仅如此,利用充足的CPU资源,降低对于AI加速卡的需求,从而降低LLM推理服务的总体拥有成本(TCO),特别是在离线的LLM推理场景中表现出色。而且在千帆大模型平台上,可不止是有自家的ERNIE,还有很多主流的大...……更多
amd旗舰aigpu加速器mi300x对比英伟达h100
...00高出60%。性能:AMD公司在演讲过程中,对比英伟达的H100加速卡,分享了MI300X的性能参数情况,IT之家附上数值如下:内存容量是H100的2.4倍内存带宽是H100的1.6倍FP8TFLOPS精度是H100的1.3倍FP16TFLOPS精度是H100的1.3倍在1v1比较中,训练L……更多
更多关于财经的资讯:
量化大厂员工失联,涉及头部券商返佣?最新消息
近日,有传闻称,幻方量化有员工因涉及券商返佣问题被抓,或涉及某头部券商。未经证实的消息称,该券商有两名相关业务负责人失联
2024-11-21 23:06:00
赋能新型工业化·助力高质量发展丨清华大学教授朱军:用好数据资源 打造特色优势
11月18日至23日,中央组织部高层次专家赴贵州六大产业基地集聚地开展咨询服务活动。活动首日,专家组一行走进中国电信云计算贵州信息园参观
2024-11-22 02:45:00
赋能新型工业化·助力高质量发展丨高层次专家为贵州数字经济发展“把脉开方”
11月18日至23日,中央组织部高层次专家赴贵州六大产业基地集聚地开展咨询服务活动。咨询服务活动期间,算力保障组专家们走进企业
2024-11-22 04:17:00
富途“大规模裁员,n+1无、年终无”?公司最新回应
11月21日,“富途年底裁员赔偿N+1”登顶职场社区脉脉的热榜第一。一名网友在社交媒体爆料称,富途年底裁员40%~60%
2024-11-22 06:37:00
华侨城曾斥资52亿拿下的武汉TOD项目部分地块被收储,后续将继续竞拍
继越秀地产之后,又一家大型国资房企旗下地块被收储。11月21日下午,华侨城公告称,旗下全资子公司武汉天创置业有限公司(以下简称“天创公司”)位于武汉市洪山区杨春湖高铁商务区一宗土地
2024-11-22 06:37:00
储量1000吨?平江发现超40条金矿脉,湖南黄金应声涨停
今日有报道称,湖南平江县万古金矿田探矿获重大突破,湖南省地质院下属湖南省地质灾害调查监测所在万古金矿田地下2000米以上深度地层发现超40条金矿脉
2024-11-22 06:37:00
组团营销信用卡,银行开始“抱团取暖”
现如今,什么样的礼品可以打动你办一张信用卡?金秋时节,记者在人头攒动的北京奥林匹克森林公园门口看见,数十辆不同型号的山地自行车整齐地摆放在一处摊位前
2024-11-22 06:37:00
华龙期货董事长请辞,年内已有多家期货公司换帅
11月21日,新三板公司华龙期货发布公告称,董事长陈义军因个人工作调整辞职。华龙期货表示,将尽快选聘新任董事、董事长、董事会秘书
2024-11-22 06:37:00
评估值达1.53亿元!龚大兴向丰华股份无偿赠与鑫源农机51%股份
为了上市公司脱胎换骨,大股东不惜血本。11月21日晚间,渝股丰华股份(600615)公告,公司控股股东东方鑫源集团有限公司(东方鑫源)拟将其持有的重庆鑫源农机股份有限公司(鑫源农机)1912
2024-11-22 06:43:00
大涨273%!“牛股”突然宣布:终止重整
今年5月27日晚公布拟申请重整和预重整以来,*ST同洲(002052)股价已累计上涨273%。11月21日,该公司股票继续涨停
2024-11-22 07:07:00
对冲基金巨头城堡当家人考虑出售少数股权,否认城堡证券近期上市
对冲基金巨头城堡(Citadel LLC)的创始人兼CEO Ken Griffin考虑出售这家650亿美元规模基金的少部分股权
2024-11-22 07:07:00
专访凌雄科技胡祚雄:坚持长期主义的创新,才能带来可持续增长
制图:时代周报创业是一场九死一生的勇敢者游戏,只有不断创新的人才有机会坚守到最后,凌雄科技(02436.HK)董事会主席胡祚雄对此有着切身的感受
2024-11-22 07:26:00
香港证监会冻结9100万港元资产!或与黑客入侵、操纵市场有关
11月21日,香港证监会向四家经纪行发出限制通知书,禁止其处置或处理其客户账户内所持有的约9100万港元资产,原因是相关账户涉嫌与操纵市场或欺诈行为有关——在2024年10月24日至11月6日期间
2024-11-22 07:37:00
光伏板下可以养鱼?江苏奏响“渔光曲”
近年来,江苏省充分利用境内广阔的土地资源,大力发展光伏发电。截至今年10月底,江苏新能源发电装机规模已达8252万千瓦
2024-11-22 07:42:00
场景升级!辽宁沈阳各大雪场造雪忙 本月底陆续“开板”
气温逐渐降低,多地冰雪旅游季的序幕已经拉开。在辽宁沈阳,眼下各大雪场正忙着人工造雪,准备“开板”迎客。在沈阳的一家滑雪场
2024-11-22 07:42:00