• 我的订阅
  • 头条热搜
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
...,而是默默拿出了一套基于新一代GB200 GPU+GPU超级芯片的服务器系统,展示了一番。GB200 Grace Blackwell包括两颗B200 GPU、一颗Grace CPU,总功耗高达2700W。其中,B200拥有2040亿个晶体管、8096-bit 192GB HBM3E内存(带宽8……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...大型需求的企业提供成品服务,例如体积庞大的GB200 NVL72服务器,共包含36个CPU和72个Blackwell GPU,并提供完整的一体水冷散热方案,可实现总计720 petaflops的AI训练性能,或高达1440 petaflops的推理性能。其内部使用的电缆长度累计接...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...在使用H100进行训练的人工智能公司,不需要改变他们的服务器系统或软件来适应H200。英伟达大规模与高性能计算副总裁Ian Buck表示,要利用生成式人工智能和高性能计算应用创造智能,必须使用大型、快速的GPU显存,来高速高...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...谷歌云年度大会Cloud Next 2024上宣布推出一款基于ARM架构的服务器芯片Axion,其性能比通用ARM芯片高30%,比英特尔生产的x86最新芯片性能提高50%。谷歌旨在减少对英特尔和AMD x86芯片的依赖。 全球围绕 AI 算力战争已经拉开帷幕。“...……更多
NPU全球出货超1亿颗!芯原如何迎战大模型时代的边缘计算变革?
...来看,芯原AI-Computing IP产品体系全面覆盖数据中心、边缘服务器及端侧设备。其中,NPU IP VIP9X00是面向推断、增量训练,GPGPU IP CC8X00是通用计算,NPU+GPU IP GC9X00AI是AI-GPU/AI-PC,Tensor Core GPU IP CC……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...无需支付费用。2、开发者层级:这一层级专为灵活的无服务器部署设计,为用户提供一个API端点。相比于市场上的大多数方案,其成本要低得多。对于Llama 3.1 8B和Llama 3.1 70B模型,每百万tokens的价格分别是10美分和60美分。未来,...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...模型推理的需求,希姆计算还从系统层面进行提升,通过服务器设计支持更多的用户并发。姚金鑫谈道,针对推理场景除了优化计算卡性能外,希姆计算还通过提升机柜下容纳的算力密度来支持更多的并发用户数。这在最新禁令...……更多
四月AI芯片三连发,英伟达:无惧竞争!
...。·AI转变PC处理器升级重点AI技术的蓬勃发展不仅改变了服务器端芯片的走向,也正在深刻影响个人电脑(PC)处理器的发展。自苹果M系列芯片率先集成神经网络处理单元(NPU)以来,其他厂商也纷纷跟进。AMD从锐龙7000系列笔记本处...……更多
AMD的GPU跑AI模型终于Yes了?PK英伟达H100不带怕的
...前的「Genoa」Epyc 9004 系列处理器和八台 Antares MI300X GPU 的服务器节点中测试了标准通用基板(UBB),还测试了一台将 Genoa CPU 换成即将推出的「Turin」Epyc 9005 系列 CPU 的机器,该系列 CPU 预计将在下个月左右推出。AMD 还……更多
最强大模型训练芯片H200发布!
...其能够插入合适的主机系统,从而允许使用者定制其高端服务器的非GPU部分。接下来是QuadGH200超算节点——它由4个GH200组成,而GH200是H200与GraceCPU组合而成的。 QuadGH200节点将提供288ArmCPU内核和总计2.3TB的高速内存。通过大量超算...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...的 GPU 和 TPU 提升10到100倍。Groq表示,基于其LPU芯片的云服务器在Llama2或Mistreal模型在计算和响应速度上远超基于NVIDIA AI GPU的ChatGPT,其每秒可以生成高达500个 token。相比之下,目前ChatGPT-3.5的公开版本每秒只能生成大约4……更多
NPU IP累计出货超1亿颗!芯原股份一站式AI解决方案揭秘
...物联网、可穿戴设备、智慧电视、智慧家居、安防监控、服务器、汽车电子、智能手机、平板电脑、智慧医疗等10个市场领域。目前,集成了芯原NPU IP的AI类芯片已在全球范围内出货超过1亿颗。 除了专用的AI加速的NPU IP之外,在...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...务提供商,其中亚马逊将构建一个包含20000个GB200芯片的服务器集群。思科、戴尔、惠普、联想和超微电脑等大量企业也都已经把提供基于Blackwell产品的各种服务提上了日程。英伟达表示,新芯片预计将于今年晚些时候上市,但...……更多
为AI加速而生 英特尔第五代至强CPU带来AI新表现
...场展示了搭载第五代至强®️ 可扩展处理器的新一代自研服务器所呈现的能力——全部以超过20%的性能提升“姿势”亮相!具体而言,京东云与上一代自研服务器有了如下的性能提升:• 整机性能提升达123%;• AI计算机视觉推理性能...……更多
AMD最强AI芯片发布:性能是英伟达H100的1.3倍!
...a270B)快达20%在1v1比较中,速度比H100(FlashAttention2)快达20%8v8服务器中的速度比H100(Llama270B)快达40%在8v8服务器中,速度比H100(Bloom176B)快达60%在具体的AI大模型加速性能对比当中……更多
英伟达发布GB200计算卡:2080亿个晶体管,AI性能提升5倍
...分,英伟达针对企业以及高性能计算用户推出了GB200 NVL72服务器,最多拥有36个CPU和72个Blackwell GPU,以及专门定制的水冷解决方案,最高提供720PFLOPs的AI训练性能以及1440FLOPs的推理性能,此外一个机架上还包括18个GB200芯片以及9个N...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...I技术创新派对,正式发布了代号为“Emerald Rapids”的面向服务器、数据中心的第五代至强可扩展处理器,相比上代至强平均性能提升了21%,能效提升了36%,AI推理性能提升了42%,总拥有成本降低了77%!最高64核心,整体性能提升21...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...更多是针对生成式 AI 所研发的训练芯片。每个TPU v5p pod(服务器组)都由8960个芯片组成,它通过TPU带宽最高的芯片间互连(ICI)以每秒4800Gbp速度在3D拓扑结构中连接。与TPU v4相比,TPU v5p的Flops性能提高了2倍以上,高带宽内存(H...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
几乎是一夜之间,AI服务器价格在国内市场中飙升。智东西从一位服务器渠道销售人员处得知,搭载英伟达A800 GPU的热门AI服务器型号的价格已达140~150万元/台,比今年6月上涨超40%;搭载8颗英伟达H800 GPU的AI服务器价格上涨则更离...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...接每块裸晶。Blackwell GPU将作为一款名为GB200 NVLink 2的完整服务器提供给客户使用,该服务器结合了72个Blackwell GPU和其他旨在训练AI模型的英伟达部件。而基于 Blackwell 的GB200也有巨大的性能提升,其AI 性能为20 Petaflops(每秒……更多
AI时代CPU不老!Intel五代至强五大革新:340亿参数小意思
...运行Llama 2 700亿参数大模型的推理,其中百度云在四节点服务器上的结果仅为87.5毫秒。再比如京东云,Llama 2 130亿参数模型在五代至强上的性能比上代提升了多达50%。 接下来,Intel至强路线图推进的速度同样飞快,今年内会陆...……更多
云和AI时代加速来临 腾讯云发布国产服务器操作系统TencentOS Server V3
随着云和AI时代加速来临,服务器OS作为承接底层硬件与上层应用的核心,如何更好地发挥软硬件性能、实现服务器资源的最大化利用,成为了行业的关键命题。7月19日,在2024中国国际金融展上,腾讯云副总裁胡利明发布了全新...……更多
全新英特尔 至强 可扩展处理器,打破数智化变革瓶颈的一板利斧
...的多模式脑部扫描磁共振成像(MRI)作为数据集,在聚合服务器上迭代聚合本地训练的模型,在不共享任何患者数据的情况下,应用联邦学习方法构建一个有效的图像分割模型,并使模型为多个参与方提供服务。验证测试的结果...……更多
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
... ASIC。通过专门化,Sohu获得了前所未有的性能。一台8xSohu服务器每秒可以处理超过50万个Llama 70B token,等效于160块H100 GPU。Sohu仅支持Transformer推理,并支持当今所有的模型(Google、Meta、Microsoft、OpenAI、Anth……更多
英伟达blackwell计算引擎制造商推出的ai模型
...带宽;升级版H100则与同样由英伟达制造的“Grace”CG100Arm服务器处理器搭配,共包含6个内存堆栈,容量和传输带宽分别为96GB及3.9TB/秒。从比较乐观的角度比较,高端Blackwell与普版H100相比实现了内存与传输带宽的双重2.4倍提升。...……更多
云巨头大暴走,自研CPU落地200万张!新一轮芯片洗牌开始了
...实例Amazon EC2 R8g提供支持。这件事还挺让人感慨,有种Arm服务器CPU千帆过尽、苦尽甘来的既视感。服务器CPU领域曾经上演风水轮流转,早期由一众精简指令集前辈一统天下,后来被复杂指令集架构x86逆袭蚕食。等精简指令集中的...……更多
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...才推出的顶配芯片 B200 也要快上超过 10 倍。一台 Sohu 的服务器运行 Llama 70B 每秒可输出超过 50 万个 token,比 H100 服务器(23,000 个 token / 秒)多 20 倍,比 B200 服务器(约 45,000 个 token / 秒)多 10 倍。……更多
从0到1:国产化千卡集群的一小步,AI算力主动权的一大步
...路径探索,业界存在不少误区。有人认为“集群就是一堆服务器叠在一起”,也有人觉得“集群的算力越大越好”,这些观点都低估了复杂系统的运行难度,以及多要素协同突围的重要性。早在超级计算机流行时期,就曾出现过...……更多
雄安首家视频人工智能芯片设计企业注册成立
...片设计生产国内性能最高的智能终端设备和云端智能解析服务器,提供智慧+安全的整体解决方案。雄芯科技将在雄安新区建设创新研发中心、智能制造中心、展示交流中心和市场销售中心,立足雄安、面向全国,致力于成为带...……更多
英特尔发布新一代gaudi3ai芯片,2024年上市
...P,表面上采用液冷),额定FP8性能为1,835TFLOPS。OAM以每个服务器节点8个为一组进行部署,然后可以扩展到1,024个节点。 ……更多
更多关于科技的资讯:
刷新多项世界纪录!我国新型单光子探测器量产落地
大皖新闻讯 日前,安徽省量子信息工程技术研究中心发布消息称,我国实现了全球首款四通道超低噪声半导体单光子探测器的量产落地(以下简称“深度制冷单光子探测器”)
2025-10-12 10:52:00
深入实施“人工智能+”行动丨浪潮智能终端“超高清+AI”解锁场景新玩法
漫步浩瀚太空,秒回侏罗纪时代,与科幻机甲同框……济南方特东方神画“九州神韵”的XR拍摄专区,小学生李安安兴奋地“穿越”在异时空中
2025-10-11 10:21:00
近日,据大象新闻报道,疾控卫监部门在一次突击检查中发现,某美容院将普通的高频电灼仪包装为“黄金微针”项目进行推广。这类看似创新的营销话术
2025-10-11 12:36:00
中新经纬10月11日电 (李自曼)近期,多家险企推出1年期的短期重疾险产品。同样保额下,传统重疾险保费动辄千元甚至上万元
2025-10-11 13:55:00
滨州移动织就“数字救援网”,赋能红十字演练通信零死角
鲁网10月11日讯近日,中国红十字应急救援北部协作区综合救援演练在山东省滨州市惠民县黄河三角洲应急消防实训基地拉开帷幕
2025-10-11 14:44:00
看点十足!2025中国移动全球合作伙伴大会变身“AI嘉年华”
当碳基生命的创造力与硅基生命的智慧力深度融合,将迸发出怎样的“AI+”可能?2025年10月10日—10月12日,中国移动全球合作伙伴大会在广州保利世贸博览馆盛大召开
2025-10-11 15:31:00
中国移动董事长杨杰:碳硅共生 合创AI+时代
10月10日至12日,2025中国移动全球合作伙伴大会在广州举行。10月11日上午,中国移动董事长杨杰出席大会主论坛,并发表题为《碳硅共生 合创AI+时代》的主旨演讲
2025-10-11 15:31:00
北京apm多重活动焕活国庆长假新体验,解锁假日新乐趣!
国庆假日期间,北京apm以“沉浸式假日体验”为核心,精心打造多元互动活动、热门IP联名快闪与专属会员福利矩阵,为王府井商圈注入鲜活动能与浓郁假日氛围
2025-10-11 15:41:00
山东乐陵:“老味道”飘出消费新滋味
位于乐陵市经济开发区的山东金鹏德盛斋扒鸡有限公司扒鸡生产车间内,老师傅王强不再像过去那样,紧盯着油炸锅、凭经验调节火力
2025-10-11 16:03:00
近日,张家口农商银行钟楼北小贷中心积极组织开展一场针对光大新天地商城内各商户的专项走访活动。此次活动旨在深入了解商城内各类商户的经营状况
2025-10-11 16:20:00
易生支付:智慧支付护航国庆文旅消费 赋能区域商业活力升级
2025年国庆长假期间,全国文旅消费市场持续呈现旺盛活力。易生支付凭借高并发交易处理、全渠道聚合支付、实时资金清算等核心技术能力
2025-10-11 17:08:00
齐鲁晚报·齐鲁壹点 连宁燕今年以来,威海市商务局围绕促消费开展了一系列卓有成效的工作。紧跟国家、省级、市级各级各类消费提振部署安排
2025-10-11 17:10:00
从精装到智装:百川装饰20年新范式在深圳启航
新范式·新百川·新未来:20周年发布品牌与战略升级近日,行业专家、合作伙伴及媒体代表逾300人齐聚深圳百川装饰集团20周年现场
2025-10-11 17:11:00
聊城首家无缝钢管制造企业汇通集团:年产85万吨钢管,远销全球30余国
鲁网10月11日讯(记者 泮晓阳)10月11日上午,聊城市政府新闻办公室召开“产业链上的山东好品牌”企业家系列现场记者见面会(六)聊城黑色金属加工
2025-10-11 17:44:00
聊城新一代信息技术发展:创新水平稳步提高,多项成果达国际领先
鲁网10月11日讯(记者 泮晓阳)10月11日上午,聊城市政府新闻办公室召开“产业链上的山东好品牌”企业家系列现场记者见面会(六)聊城黑色金属加工
2025-10-11 17:49:00