• 我的订阅
  • 头条热搜
寒武纪思元系列加速卡完成与百川智能旗下大模型适配 【寒武纪思元系列加速卡完成与百川智能旗下大模型适配】《科创板日报》6日讯,寒武纪今日宣布,近期公司思元(MLU)系列云端智能加速卡与百川智能旗下的大模型Baichu...……更多
AI加速卡液冷设计白皮书正式发布!宁畅参与起草
近日,由宁畅参与起草的《基于标准PCIe接口的人工智能加速卡液冷设计》白皮书正式发布。该技术白皮书由开放计算标准工作委员会(OCTC)归口,旨在为冷板式人工智能加速卡的设计提供重要指导。大模型时代下,AI算力需求...……更多
国产GPU为底座,摩尔线程首个千卡智算中心落地
...程CEO张建中在主题演讲中带来新品发布,包括大模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供强大支持的摩尔线程KUAE平台。第三代MUSA内核据介绍,摩尔线程大模型智算加速卡MTT S4000,采用第三代MUSA内核,单...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...希姆STCP920系列采用12nm工艺,是基于RISC-V的人工智能计算加速卡,具备较高的云端AI计算能效比和可编程性,混合支持FP16/INT8数据类型。希姆计算将其在传统AI场景里的方案针对大模型进行了专门的优化,姚金鑫坦言,这一一体机...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...的芯片可有不同的组合方式,包括CPU+GPU、CPU+TPU、CPU+其他加速卡等。相比于通用服务器,AI服务器更适应AI训练和推理的大算力、高并发、大数据流转等需求,已经成为大模型时代的“香饽饽”。以热门AI服务器型号浪潮NF5688M6服...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...集群。同时,摩尔线程CEO张建中在当天发布了大模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供支持的摩尔线程KUAE平台。近年在AI热潮之下,国内的智算中心不断兴建。根据此前国家信息中心联合浪潮信息发布...……更多
...版和Edge10Max三款芯片,出货形态包括芯片、板卡、盒子、加速卡、推理服务器等,可广泛应用于AIoT边缘视频、移动机器人等场景。此外,依托Dee Edge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百...……更多
英伟达特供芯片卖不动了?黄仁勋穿上东北花袄“示好”,中国大厂难掩AI野心
...时代财经记者提供的资料,旗下思元芯片近期接连宣布与百川智能、智象未来等厂商旗下大模型完成全面适配。“生态构建是目标,芯片只是基础,更重要的是在芯片之上构建函括架构平台、软件工具、操作系统和应用场景等一...……更多
百川智能完成3亿美元A1轮融资,阿里、腾讯、小米等巨头参投
...叶峰《每日经济新闻》记者获悉,10月17日,王小川旗下百川智能官宣已完成A1轮战略融资,融资金额3亿美元,阿里、腾讯、小米、深创投等科技巨头及多家顶级投资机构参投。对于百川智能的这一轮融资,有知情人士告诉每经...……更多
英伟达联手Zilliz发布全球首个GPU加速向量数据库
...主要研发、生产、销售印制电路板(PCB),公司配套AI GPU加速卡的PCB产品部分已经实现批量生产。一博科技专注于为客户提供高速PCB研发设计和PCBA研发打样、中小批量制造服务这一主业,近年来每年服务的客户超过3,000家,业务...……更多
让大模型“外挂硬盘”,百川智能发布新API系列,企业定制成本大大降低
...题在于——如何让大模型高效地在实际应用场景中落地?百川智能的最新实践是:用大模型+增强技术,可以大大提升企业应用大模型的效率。现在,全球大模型领域都在“开卷”长文本,这是目前大模型能否落地更多场景的关...……更多
PC开启AI时代:行业要变天
...支持AI软件开发。或许仅从性能角度来看,可配备显卡、加速卡的工作站、台式机更胜一筹,但是多数用户手中的笔记本,特别是轻薄本,在体验方面更有看点。毕竟在PC端能够部署终端侧AI,而终端侧AI的优势可不仅是低时延、...……更多
近日,高通公司发布了新一代云AI推理加速卡——CloudAI100Ultra。这款产品专为生成式AI和大型语言模型而设计,提供相当于上一代产品四倍的性能。新款CloudAI100Ultra可部署的模型规模进一步扩大,单张150W的卡上可部署100B参数模...……更多
“硬核”麒麟,点燃创新引擎
...发的智算算力网已并网5地6个智算平台,纳管主流异构AI加速卡,支撑了国内科研院所、高校和智算公司训练超过10个百亿级大模型。中国科学院工程热物理研究所瞄准长时储能领域的重大科技问题,推进国际首套百兆瓦级压缩空...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...B左右的内存,即使完全忽略内存消耗,也需要305张Groq LPU加速卡才够用。如果考虑到内存消耗,可能需要572张Groq LPU加速卡。官方数据显示,Groq LPU的平均功耗为185W,即使不计算外围设备的功耗,572张Groq LPU加速卡的总功耗也高...……更多
英伟达尖端图像处理半导体h200开始供货
...运算处理装置)组合的新产品用于最新的LLM上。“最强AI加速卡”GB200包含了两个B200BlackwellGPU和一个基于Arm的GraceCPU ,推理大语言模型性能比H100提升30倍,成本和能耗降至25分之一。GB200采用新一代AI图形处理器架构Blackwell,黄仁...……更多
英特尔预计2024年正式上市Gaudi3,用于生成式AI模型
...展处理器也一同发布。发布会期间,阿li云、火山引擎、百川智能、联想等大厂到场为英特尔“站台”。“在中国国内已经有超过20家硬件合作伙伴和7家云服务商基于第五代至强处理器准备好了全新的服务器和云服务。”英特尔...……更多
amd旗舰aigpu加速器mi300x对比英伟达h100
...00高出60%。性能:AMD公司在演讲过程中,对比英伟达的H100加速卡,分享了MI300X的性能参数情况,IT之家附上数值如下:内存容量是H100的2.4倍内存带宽是H100的1.6倍FP8TFLOPS精度是H100的1.3倍FP16TFLOPS精度是H100的1.3倍在1v1比较中,训练L……更多
amd发布新一代面向ai/hpc加速器
...U+GPU的融合加速器。对于MI300X这款APU,AMD对比英伟达的H100加速卡,分享了MI300X的一些性能参数情况,具体数值如下:内存容量是H100的2.4倍;内存带宽是H100的1.6倍;FP8TFLOPS精度是H100的1.3倍;FP16TFLOPS精度是H100的1.3倍;在1v……更多
摩尔线程kuae千卡集群正式落地
...全功能GPU为底座的大规模算力集群正式落地,大模型智算加速卡MTTS4000也同步发布。附MTTS4000参数如下:摩尔线程大模型智算加速卡MTTS4000,采用第三代MUSA内核,单卡支持48GB显存和768GB/s的显存带宽。基于摩尔线程自研MTLink1.0技术...……更多
英特尔gaudi2加速卡比nv计算卡更出色
...地眼红,比如行业巨头英特尔。这家蓝色巨人推出的Gaudi2加速卡就是为对抗H100计算卡而生,而经过不断地优化,目前在StableDiffusion领域,Gaudi2加速卡的表现比NV的计算卡更加出色。目前StableDiffusion开发商StabilityAI发布了一份报告...……更多
摩尔线程发布智算加速卡MTT S4000
12月19日消息,今天,摩尔线程发布了全新智算加速卡MTTS4000,训推兼顾专为大模型打造,单卡支持48GB显存。据介绍,MTTS4000采用了第三代MUSA内核,单卡支持48GB显存和768GB/s的显存带宽,FP32性能为25TFLOPs、TF32性能为50TFLOPs、INT8性...……更多
...在、且大放光彩的王慧文创立的光年之外,以及王小川的百川智能,也很快选择了大模型和基于模型应用两条线并进。但被称为“AI界春晚”的OpenAI开发者大会,预示了一大批初创公司的必然徒劳。这场大会不仅有会前流传的GPT-...……更多
百川智能、阿里云等进入开源大模型领域,开启商业化前奏
...8、9月份推出的开源大模型则包括阿里云Qwen-7B、Qwen-14B,百川智能Baichuan2-7B、Baichuan2-13B等。近日,香港中文大学贾佳亚团队还联合MIT发布长文本开源大语言模型LongAIpaca,号称全球首个70B参数长文本开源大语言模型,显示开源之...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...进行大幅提升。英伟达于2022年发布了基于Hopper架构的H100加速卡,而现在推出基于Blackwell的加速卡在性能上也得到了全面提升,更擅长处理AI相关任务。从外观来看,Blackwell GPU的体积明显大于H100,采用台积电的4纳米(4NP)工艺...……更多
创鑫智慧预告 CES 2024:将推 Raptor Gen AI 加速卡等产品
...稿,宣布将参加 2024 年 CES 大展,将推出新型 Raptor Gen AI 加速卡和 Evo PCIe 加速卡 LLM 产品。IT之家注:Raptor Gen AI 加速卡此前称为 N3000,帮助企业在现有解决方案情况下,小成本部署大型语言模型(LLM)。 Neuchips 首席执……更多
AMD MI300X AI加速卡超10万元!
最新消息显示,AMDInstinct系列AI加速卡有了更新。据称,AMDMI300X加速卡的大客户单价约为1万美元(约合人民币7.2万元),而其他客户则需要支付更高达1.5万美元(约合人民币10.8万元)的价格。虽然NVIDIA推出了更高级、更先进的H200141GB...……更多
高通参展MWC 2024,将展示5G开放式VRAN部署
...为满足现代网络需求,高通基础设施处理器与高通X1005GRAN加速卡配合使用,这一系统级解决方案能够为开放式vRAN部署实现最佳每瓦特性能,并简化成本结构;此外,高通利用突破性异构计算能力、集成式硬件加速器以及强大的5G...……更多
amd造出最大芯片instinctmi300加速卡
在 CES2023 展会上,AMD披露了面向下一代数据中心的APU加速卡产品InstinctMI300。这颗芯片将CPU、GPU和内存全部封装为一体,从而大幅缩短了DDR内存行程和CPU-GPUPCIe行程,从而大幅提高了其性能和效率。这款加速卡采用Chiplet设计,拥...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...模型的性能需求,同时在成本上也是远低于那些高昂的AI加速卡。 英特尔表示,在使用2S 五代至强平台上运行GPT-J 6B模型(60亿参数),它可以实现在大约25毫秒下完成一个Token的处理。不过,对于运行更大的Llama 2 13B模型时,其...……更多
更多关于财经的资讯:
进出口银行山东省分行全力支持山东省核电项目建设
本文转自:人民网-山东频道加强"总分协作" 助力核电发展进出口银行山东省分行全力支持山东省核电项目建设近年来,随着经济社会的不断发展
2024-09-06 11:03:00
前8月4只混基涨超20% 永赢鹏华汇添富等基金涨幅居前
中国经济网北京9月6日讯(记者李荣)据同花顺iFind数据显示,今年前8月,全市场有可比业绩的7837只(各类份额分开计算
2024-09-06 07:48:00
总市值千亿级A股上市公司南京占3席最新数据显示全省上市公司达693家南报网讯(记者曹丽珍实习生曹泓)记者5日采访获悉,江苏省上市公司协会日前公布的最新一期会员信息月报显示
2024-09-06 07:48:00
随着银行中报季收官,10家已上市全国性股份行的上半年业绩都已经披露。整体来看,上半年各家股份行的业绩好坏参半,其中光大银行上半年营收增幅为-8
2024-09-06 08:09:00
摘要:近年来,随着国内外政治经济形势的剧烈变化,我国一些中小企业发展遇到困难。投融资是中小企业生存和发展的根本所在,本文通过剖析我国中小企业投融资现状
2024-09-06 08:30:00
1—8月厦门港国际航行船舶“喝”下32万吨保税燃油
厦门网讯(厦门日报记者 郭睿 通讯员 郑伯坚)昨日,在厦门海关监管下,中国船舶燃料供应福建有限公司为国际航行船舶“凯旋轮(CARAVOS TRIUMPH)”加注799吨低硫保税燃料油
2024-09-06 08:35:00
亿万富豪约翰·保尔森称美联储等了太久才降息,并预计该央行将在未来几个月内下调利率。现年68岁的保尔森在接受彭博电视采访时表示
2024-09-06 08:39:00
果然来了,存量房贷利率预计降低80个基点
9月2日,队长刚写过了《38万亿存量房贷,或将迎来史诗级下调》,当时,后台还有很多人不相信。为什么不信呢?一是,招行的行长出来说了句
2024-09-06 08:39:00
成都楼市备战“金九银十”:部分楼盘花式蓄客,高端项目积极推新
越秀天悦云萃售楼部。孟双奎/摄中房报记者 孟双奎丨成都报道“现在一天要接待几十组客户,忙不过来了。”成都保利璟园的置业顾问告诉中国房地产报记者
2024-09-06 08:39:00
“单车道”扩容为“双车道”!“天路”拉动沿线经济发展
沪昆空中大通道空域优化方案正式启用,由原先“单车道”扩容为“双车道”,新辟航线13条,新增航线里程4707千米,航路容量提升约32%
2024-09-06 08:42:00
100吨螃蟹抢“鲜”上市!秋天的快乐,赶紧冲
中秋节临近,甘肃临泽的6000余亩螃蟹抢“鲜”上市。这两天,在张掖市临泽县沙河镇的螃蟹养殖区,养殖户曹希龙带领乡亲们在蟹塘里忙着起笼
2024-09-06 08:42:00
最新公告!今日,港股或暂停交易
港股今日或暂停交易。9月6日早间,香港交易所表示,若八号或以上台风信号、黑色暴雨警告或极端情况警告于早上9时仍然生效,证券及衍生产品市场早上将暂停交易
2024-09-06 09:09:00
刘科:碳中和是房地产后下一个中国经济转型的重要领域
凤凰网财经讯 9月2-4日,“新机遇·新活力——凤凰湾区财经论坛2024”于横琴粤澳深度合作区举行。本次论坛由凤凰卫视
2024-09-06 09:09:00
绿色贷款余额近2000亿元 北京银行“化金为绿”写好绿色产业故事
擦亮金融高质量发展的绿色底色是守住绿水青山的本色、推动经济社会绿色转型发展的关键,此前中央金融工作会议也曾明确将“绿色金融”作为建设金融强国的五篇大文章之一
2024-09-06 09:17:00
周正峰:市场整体重心再度下探
本周市场依旧没有扭转此前的下跌走势,整体重心再度下探,且受到部分权重股的拖累,沪指等为代表的权重指数下跌幅度更深,而成长股居多的深市股指相对更有韧性
2024-09-06 09:17:00