• 我的订阅
  • 头条热搜
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
...,而是默默拿出了一套基于新一代GB200 GPU+GPU超级芯片的服务器系统,展示了一番。GB200 Grace Blackwell包括两颗B200 GPU、一颗Grace CPU,总功耗高达2700W。其中,B200拥有2040亿个晶体管、8096-bit 192GB HBM3E内存(带宽8……更多
推理性能飙升1.5倍!微软疯狂下单GB200芯片提升其AI算力
...展其AI计算能力。根据NVIDIA官方给出的数据,新一代GB200服务器系统在Llama 3.1 700亿参数大模型上的AI推理性能对比H200提高了足足1.5倍。此外,微软还计划在低温数据中心部署GB200服务器,以缓解冷却系统的潜在压力。其他云服务...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...大型需求的企业提供成品服务,例如体积庞大的GB200 NVL72服务器,共包含36个CPU和72个Blackwell GPU,并提供完整的一体水冷散热方案,可实现总计720 petaflops的AI训练性能,或高达1440 petaflops的推理性能。其内部使用的电缆长度累计接...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...在使用H100进行训练的人工智能公司,不需要改变他们的服务器系统或软件来适应H200。英伟达大规模与高性能计算副总裁Ian Buck表示,要利用生成式人工智能和高性能计算应用创造智能,必须使用大型、快速的GPU显存,来高速高...……更多
最强服务器CPU来了!AI性能直接翻倍
服务器CPU领域持续多年的核心数量大战,被一举终结了! 英特尔最新发布的至强®6性能核处理器(P-core系列),超越了过去单一维度的竞争,通过“升维”定义了新的游戏规则: >算力、存力,要全方位提升。不能做到这一...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...谷歌云年度大会Cloud Next 2024上宣布推出一款基于ARM架构的服务器芯片Axion,其性能比通用ARM芯片高30%,比英特尔生产的x86最新芯片性能提高50%。谷歌旨在减少对英特尔和AMD x86芯片的依赖。 全球围绕 AI 算力战争已经拉开帷幕。“...……更多
NPU全球出货超1亿颗!芯原如何迎战大模型时代的边缘计算变革?
...来看,芯原AI-Computing IP产品体系全面覆盖数据中心、边缘服务器及端侧设备。其中,NPU IP VIP9X00是面向推断、增量训练,GPGPU IP CC8X00是通用计算,NPU+GPU IP GC9X00AI是AI-GPU/AI-PC,Tensor Core GPU IP CC……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...无需支付费用。2、开发者层级:这一层级专为灵活的无服务器部署设计,为用户提供一个API端点。相比于市场上的大多数方案,其成本要低得多。对于Llama 3.1 8B和Llama 3.1 70B模型,每百万tokens的价格分别是10美分和60美分。未来,...……更多
AMD发布最强AI芯片,对标英伟达Blackwell,2025年上市
未来的大模型,或许都是 A 卡来算的?从 PC 端到服务器,AMD 一次发布就完成了对 AI 计算的全覆盖。今天凌晨,AMD 首席执行官苏姿丰(Lisa Su)在旧金山举行的 Advancing AI 2024 活动上发布了全新一代 Ryzen CPU、Instinct AI 计算卡、EPYC..……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...模型推理的需求,希姆计算还从系统层面进行提升,通过服务器设计支持更多的用户并发。姚金鑫谈道,针对推理场景除了优化计算卡性能外,希姆计算还通过提升机柜下容纳的算力密度来支持更多的并发用户数。这在最新禁令...……更多
四月AI芯片三连发,英伟达:无惧竞争!
...。·AI转变PC处理器升级重点AI技术的蓬勃发展不仅改变了服务器端芯片的走向,也正在深刻影响个人电脑(PC)处理器的发展。自苹果M系列芯片率先集成神经网络处理单元(NPU)以来,其他厂商也纷纷跟进。AMD从锐龙7000系列笔记本处...……更多
AMD的GPU跑AI模型终于Yes了?PK英伟达H100不带怕的
...前的「Genoa」Epyc 9004 系列处理器和八台 Antares MI300X GPU 的服务器节点中测试了标准通用基板(UBB),还测试了一台将 Genoa CPU 换成即将推出的「Turin」Epyc 9005 系列 CPU 的机器,该系列 CPU 预计将在下个月左右推出。AMD 还……更多
最强大模型训练芯片H200发布!
...其能够插入合适的主机系统,从而允许使用者定制其高端服务器的非GPU部分。接下来是QuadGH200超算节点——它由4个GH200组成,而GH200是H200与GraceCPU组合而成的。 QuadGH200节点将提供288ArmCPU内核和总计2.3TB的高速内存。通过大量超算...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...的 GPU 和 TPU 提升10到100倍。Groq表示,基于其LPU芯片的云服务器在Llama2或Mistreal模型在计算和响应速度上远超基于NVIDIA AI GPU的ChatGPT,其每秒可以生成高达500个 token。相比之下,目前ChatGPT-3.5的公开版本每秒只能生成大约4……更多
NPU IP累计出货超1亿颗!芯原股份一站式AI解决方案揭秘
...物联网、可穿戴设备、智慧电视、智慧家居、安防监控、服务器、汽车电子、智能手机、平板电脑、智慧医疗等10个市场领域。目前,集成了芯原NPU IP的AI类芯片已在全球范围内出货超过1亿颗。 除了专用的AI加速的NPU IP之外,在...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...务提供商,其中亚马逊将构建一个包含20000个GB200芯片的服务器集群。思科、戴尔、惠普、联想和超微电脑等大量企业也都已经把提供基于Blackwell产品的各种服务提上了日程。英伟达表示,新芯片预计将于今年晚些时候上市,但...……更多
为AI加速而生 英特尔第五代至强CPU带来AI新表现
...场展示了搭载第五代至强®️ 可扩展处理器的新一代自研服务器所呈现的能力——全部以超过20%的性能提升“姿势”亮相!具体而言,京东云与上一代自研服务器有了如下的性能提升:• 整机性能提升达123%;• AI计算机视觉推理性能...……更多
AMD最强AI芯片发布:性能是英伟达H100的1.3倍!
...a270B)快达20%在1v1比较中,速度比H100(FlashAttention2)快达20%8v8服务器中的速度比H100(Llama270B)快达40%在8v8服务器中,速度比H100(Bloom176B)快达60%在具体的AI大模型加速性能对比当中……更多
英伟达发布GB200计算卡:2080亿个晶体管,AI性能提升5倍
...分,英伟达针对企业以及高性能计算用户推出了GB200 NVL72服务器,最多拥有36个CPU和72个Blackwell GPU,以及专门定制的水冷解决方案,最高提供720PFLOPs的AI训练性能以及1440FLOPs的推理性能,此外一个机架上还包括18个GB200芯片以及9个N...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...I技术创新派对,正式发布了代号为“Emerald Rapids”的面向服务器、数据中心的第五代至强可扩展处理器,相比上代至强平均性能提升了21%,能效提升了36%,AI推理性能提升了42%,总拥有成本降低了77%!最高64核心,整体性能提升21...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...更多是针对生成式 AI 所研发的训练芯片。每个TPU v5p pod(服务器组)都由8960个芯片组成,它通过TPU带宽最高的芯片间互连(ICI)以每秒4800Gbp速度在3D拓扑结构中连接。与TPU v4相比,TPU v5p的Flops性能提高了2倍以上,高带宽内存(H...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
几乎是一夜之间,AI服务器价格在国内市场中飙升。智东西从一位服务器渠道销售人员处得知,搭载英伟达A800 GPU的热门AI服务器型号的价格已达140~150万元/台,比今年6月上涨超40%;搭载8颗英伟达H800 GPU的AI服务器价格上涨则更离...……更多
AI时代CPU不老!Intel五代至强五大革新:340亿参数小意思
...运行Llama 2 700亿参数大模型的推理,其中百度云在四节点服务器上的结果仅为87.5毫秒。再比如京东云,Llama 2 130亿参数模型在五代至强上的性能比上代提升了多达50%。 接下来,Intel至强路线图推进的速度同样飞快,今年内会陆...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...接每块裸晶。Blackwell GPU将作为一款名为GB200 NVLink 2的完整服务器提供给客户使用,该服务器结合了72个Blackwell GPU和其他旨在训练AI模型的英伟达部件。而基于 Blackwell 的GB200也有巨大的性能提升,其AI 性能为20 Petaflops(每秒……更多
云和AI时代加速来临 腾讯云发布国产服务器操作系统TencentOS Server V3
随着云和AI时代加速来临,服务器OS作为承接底层硬件与上层应用的核心,如何更好地发挥软硬件性能、实现服务器资源的最大化利用,成为了行业的关键命题。7月19日,在2024中国国际金融展上,腾讯云副总裁胡利明发布了全新...……更多
全新英特尔 至强 可扩展处理器,打破数智化变革瓶颈的一板利斧
...的多模式脑部扫描磁共振成像(MRI)作为数据集,在聚合服务器上迭代聚合本地训练的模型,在不共享任何患者数据的情况下,应用联邦学习方法构建一个有效的图像分割模型,并使模型为多个参与方提供服务。验证测试的结果...……更多
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
... ASIC。通过专门化,Sohu获得了前所未有的性能。一台8xSohu服务器每秒可以处理超过50万个Llama 70B token,等效于160块H100 GPU。Sohu仅支持Transformer推理,并支持当今所有的模型(Google、Meta、Microsoft、OpenAI、Anth……更多
英伟达blackwell计算引擎制造商推出的ai模型
...带宽;升级版H100则与同样由英伟达制造的“Grace”CG100Arm服务器处理器搭配,共包含6个内存堆栈,容量和传输带宽分别为96GB及3.9TB/秒。从比较乐观的角度比较,高端Blackwell与普版H100相比实现了内存与传输带宽的双重2.4倍提升。...……更多
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...才推出的顶配芯片 B200 也要快上超过 10 倍。一台 Sohu 的服务器运行 Llama 70B 每秒可输出超过 50 万个 token,比 H100 服务器(23,000 个 token / 秒)多 20 倍,比 B200 服务器(约 45,000 个 token / 秒)多 10 倍。……更多
云巨头大暴走,自研CPU落地200万张!新一轮芯片洗牌开始了
...实例Amazon EC2 R8g提供支持。这件事还挺让人感慨,有种Arm服务器CPU千帆过尽、苦尽甘来的既视感。服务器CPU领域曾经上演风水轮流转,早期由一众精简指令集前辈一统天下,后来被复杂指令集架构x86逆袭蚕食。等精简指令集中的...……更多
更多关于科技的资讯:
手机放胸口2分钟就能发现致命心脏病 准确率89%
心力衰竭(心衰)是各种心脏疾病的严重表现或晚期阶段,一旦被诊断心衰,可能需要反复住院治疗,5 年内死亡的风险高达 51
2024-12-24 00:04:00
小鹏汽车2025年产品规划曝光:3款全新车型 4款改款
12月23日晚,有汽车博主披露了小鹏汽车针对2025年的产品部署,计划推出3款全新车型及4款重大改款车型,阵容相当强大
2024-12-24 00:04:00
人类身上明显的缺陷:吃饭时发出声音会杀死自己
任何动物都有一些不够完美生理结构,即便是人类也不例外。我们可以找到很多人类的“缺陷”,比如人类的奇怪的智齿和阑尾、人类对垃圾食品的偏爱
2024-12-24 00:04:00
撒钱折磨网友的转转 其实自己也不好过
前排声明,差评君的旧手机没放转转上回收,这篇文章也不是转转广告,大伙们可以放心食用。今年小红书,不是把年度词颁布给了抽象嘛
2024-12-24 00:34:00
我屏幕里的二次元萌妹们 开始教高数、打冷兵器、做电焊
虚拟主播大家应该不陌生,指的就是以虚拟形象在视频网站上进行内容创作的主播,通常被称为 Vtuber 、 VUP 。先说个大家肯定熟悉的
2024-12-24 00:34:00
中国电视迎来近年来最好时代
快科技12月23日消息,根据商务部最新数据,截至12月19日24时,已有超过3330万名消费者积极参与了家电以旧换新的活动
2024-12-24 00:34:00
滴滴就用户打到臭车致歉:上线拉黑异味车功能 多地推出“香香车”
快科技12月24日消息,滴滴“臭车”一直以来都是个老大难问题,尤其进入冬季,不少司机减少开窗次数,车内空气质量更是雪上加霜
2024-12-24 00:34:00
天玑8400赋能高阶智能手机市场
2024年12月23日–MediaTek发布天玑84005G全大核智能体AI芯片。天玑8400承袭了天玑旗舰芯片的诸多先进技术
2024-12-24 00:52:00
小米15ultra准备好进军印度市场了吗?
小米15Ultra的全球发布日益临近,最新动态显示其已准备好进军印度市场。新机型号为“25010PN30I”,近日已成功获得印度标准局(BIS)的认证
2024-12-24 01:26:00
华为平板推出智选hi版本,售价1399元起
12月23日,据博主@定焦数码爆料,华为平板也要推出智选Hi版本。实际上,华为智选HiMatePad11.5英寸已经悄然在电商平台上架
2024-12-24 01:40:00
more体验more消息,小米手环10和nfc版入网
据博主@体验more消息,目前有多款国产手环手表入网,其中小米(红米)有两款,型号分别是M2456B1和M2457B1
2024-12-24 01:43:00
小米汽车精英驾驶培训首期课程圆满结束
12月23日,CNMO了解到,小米汽车精英驾驶培训的首期课程圆满结束,官方发布了一段视频,回顾了培训现场令人血脉喷张的体验
2024-12-24 02:18:00
小米hyperos1.4.5上线,新增13项新功能
12月23日,小米汽车推送新版系统XiaomiHyperOS1.4.5,正式引入VLM视觉语言大模型,一口气带来了13项新功能和26项优化
2024-12-24 02:21:00
aocu32u3d,为设计创作人士带来新质生产力
就在双11期间,苹果正式推出了新款Macmini,其采用最新的M4和M4Pro芯片,尺寸仅为手掌大小,尽管厚度略有增加
2024-12-24 03:03:00
免费合规“神器”来袭!企元数智如何引领企业合规新潮?
企业合规之殇,谁来“救赎”?在当今复杂多变的商业环境中,企业合规经营已成为不可逾越的底线与实现长远发展的重要保障。随着法律法规的日益完善和监管力度的不断加强
2024-12-24 03:13:00