• 我的订阅
  • 头条热搜
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
...,而是默默拿出了一套基于新一代GB200 GPU+GPU超级芯片的服务器系统,展示了一番。GB200 Grace Blackwell包括两颗B200 GPU、一颗Grace CPU,总功耗高达2700W。其中,B200拥有2040亿个晶体管、8096-bit 192GB HBM3E内存(带宽8……更多
推理性能飙升1.5倍!微软疯狂下单GB200芯片提升其AI算力
...展其AI计算能力。根据NVIDIA官方给出的数据,新一代GB200服务器系统在Llama 3.1 700亿参数大模型上的AI推理性能对比H200提高了足足1.5倍。此外,微软还计划在低温数据中心部署GB200服务器,以缓解冷却系统的潜在压力。其他云服务...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...大型需求的企业提供成品服务,例如体积庞大的GB200 NVL72服务器,共包含36个CPU和72个Blackwell GPU,并提供完整的一体水冷散热方案,可实现总计720 petaflops的AI训练性能,或高达1440 petaflops的推理性能。其内部使用的电缆长度累计接...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...在使用H100进行训练的人工智能公司,不需要改变他们的服务器系统或软件来适应H200。英伟达大规模与高性能计算副总裁Ian Buck表示,要利用生成式人工智能和高性能计算应用创造智能,必须使用大型、快速的GPU显存,来高速高...……更多
最强服务器CPU来了!AI性能直接翻倍
服务器CPU领域持续多年的核心数量大战,被一举终结了! 英特尔最新发布的至强®6性能核处理器(P-core系列),超越了过去单一维度的竞争,通过“升维”定义了新的游戏规则: >算力、存力,要全方位提升。不能做到这一...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...谷歌云年度大会Cloud Next 2024上宣布推出一款基于ARM架构的服务器芯片Axion,其性能比通用ARM芯片高30%,比英特尔生产的x86最新芯片性能提高50%。谷歌旨在减少对英特尔和AMD x86芯片的依赖。 全球围绕 AI 算力战争已经拉开帷幕。“...……更多
NPU全球出货超1亿颗!芯原如何迎战大模型时代的边缘计算变革?
...来看,芯原AI-Computing IP产品体系全面覆盖数据中心、边缘服务器及端侧设备。其中,NPU IP VIP9X00是面向推断、增量训练,GPGPU IP CC8X00是通用计算,NPU+GPU IP GC9X00AI是AI-GPU/AI-PC,Tensor Core GPU IP CC……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...无需支付费用。2、开发者层级:这一层级专为灵活的无服务器部署设计,为用户提供一个API端点。相比于市场上的大多数方案,其成本要低得多。对于Llama 3.1 8B和Llama 3.1 70B模型,每百万tokens的价格分别是10美分和60美分。未来,...……更多
AMD发布最强AI芯片,对标英伟达Blackwell,2025年上市
未来的大模型,或许都是 A 卡来算的?从 PC 端到服务器,AMD 一次发布就完成了对 AI 计算的全覆盖。今天凌晨,AMD 首席执行官苏姿丰(Lisa Su)在旧金山举行的 Advancing AI 2024 活动上发布了全新一代 Ryzen CPU、Instinct AI 计算卡、EPYC..……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...模型推理的需求,希姆计算还从系统层面进行提升,通过服务器设计支持更多的用户并发。姚金鑫谈道,针对推理场景除了优化计算卡性能外,希姆计算还通过提升机柜下容纳的算力密度来支持更多的并发用户数。这在最新禁令...……更多
四月AI芯片三连发,英伟达:无惧竞争!
...。·AI转变PC处理器升级重点AI技术的蓬勃发展不仅改变了服务器端芯片的走向,也正在深刻影响个人电脑(PC)处理器的发展。自苹果M系列芯片率先集成神经网络处理单元(NPU)以来,其他厂商也纷纷跟进。AMD从锐龙7000系列笔记本处...……更多
AMD的GPU跑AI模型终于Yes了?PK英伟达H100不带怕的
...前的「Genoa」Epyc 9004 系列处理器和八台 Antares MI300X GPU 的服务器节点中测试了标准通用基板(UBB),还测试了一台将 Genoa CPU 换成即将推出的「Turin」Epyc 9005 系列 CPU 的机器,该系列 CPU 预计将在下个月左右推出。AMD 还……更多
最强大模型训练芯片H200发布!
...其能够插入合适的主机系统,从而允许使用者定制其高端服务器的非GPU部分。接下来是QuadGH200超算节点——它由4个GH200组成,而GH200是H200与GraceCPU组合而成的。 QuadGH200节点将提供288ArmCPU内核和总计2.3TB的高速内存。通过大量超算...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...的 GPU 和 TPU 提升10到100倍。Groq表示,基于其LPU芯片的云服务器在Llama2或Mistreal模型在计算和响应速度上远超基于NVIDIA AI GPU的ChatGPT,其每秒可以生成高达500个 token。相比之下,目前ChatGPT-3.5的公开版本每秒只能生成大约4……更多
NPU IP累计出货超1亿颗!芯原股份一站式AI解决方案揭秘
...物联网、可穿戴设备、智慧电视、智慧家居、安防监控、服务器、汽车电子、智能手机、平板电脑、智慧医疗等10个市场领域。目前,集成了芯原NPU IP的AI类芯片已在全球范围内出货超过1亿颗。 除了专用的AI加速的NPU IP之外,在...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...务提供商,其中亚马逊将构建一个包含20000个GB200芯片的服务器集群。思科、戴尔、惠普、联想和超微电脑等大量企业也都已经把提供基于Blackwell产品的各种服务提上了日程。英伟达表示,新芯片预计将于今年晚些时候上市,但...……更多
为AI加速而生 英特尔第五代至强CPU带来AI新表现
...场展示了搭载第五代至强®️ 可扩展处理器的新一代自研服务器所呈现的能力——全部以超过20%的性能提升“姿势”亮相!具体而言,京东云与上一代自研服务器有了如下的性能提升:• 整机性能提升达123%;• AI计算机视觉推理性能...……更多
AMD最强AI芯片发布:性能是英伟达H100的1.3倍!
...a270B)快达20%在1v1比较中,速度比H100(FlashAttention2)快达20%8v8服务器中的速度比H100(Llama270B)快达40%在8v8服务器中,速度比H100(Bloom176B)快达60%在具体的AI大模型加速性能对比当中……更多
英伟达发布GB200计算卡:2080亿个晶体管,AI性能提升5倍
...分,英伟达针对企业以及高性能计算用户推出了GB200 NVL72服务器,最多拥有36个CPU和72个Blackwell GPU,以及专门定制的水冷解决方案,最高提供720PFLOPs的AI训练性能以及1440FLOPs的推理性能,此外一个机架上还包括18个GB200芯片以及9个N...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...I技术创新派对,正式发布了代号为“Emerald Rapids”的面向服务器、数据中心的第五代至强可扩展处理器,相比上代至强平均性能提升了21%,能效提升了36%,AI推理性能提升了42%,总拥有成本降低了77%!最高64核心,整体性能提升21...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...更多是针对生成式 AI 所研发的训练芯片。每个TPU v5p pod(服务器组)都由8960个芯片组成,它通过TPU带宽最高的芯片间互连(ICI)以每秒4800Gbp速度在3D拓扑结构中连接。与TPU v4相比,TPU v5p的Flops性能提高了2倍以上,高带宽内存(H...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
几乎是一夜之间,AI服务器价格在国内市场中飙升。智东西从一位服务器渠道销售人员处得知,搭载英伟达A800 GPU的热门AI服务器型号的价格已达140~150万元/台,比今年6月上涨超40%;搭载8颗英伟达H800 GPU的AI服务器价格上涨则更离...……更多
AI时代CPU不老!Intel五代至强五大革新:340亿参数小意思
...运行Llama 2 700亿参数大模型的推理,其中百度云在四节点服务器上的结果仅为87.5毫秒。再比如京东云,Llama 2 130亿参数模型在五代至强上的性能比上代提升了多达50%。 接下来,Intel至强路线图推进的速度同样飞快,今年内会陆...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...接每块裸晶。Blackwell GPU将作为一款名为GB200 NVLink 2的完整服务器提供给客户使用,该服务器结合了72个Blackwell GPU和其他旨在训练AI模型的英伟达部件。而基于 Blackwell 的GB200也有巨大的性能提升,其AI 性能为20 Petaflops(每秒……更多
云和AI时代加速来临 腾讯云发布国产服务器操作系统TencentOS Server V3
随着云和AI时代加速来临,服务器OS作为承接底层硬件与上层应用的核心,如何更好地发挥软硬件性能、实现服务器资源的最大化利用,成为了行业的关键命题。7月19日,在2024中国国际金融展上,腾讯云副总裁胡利明发布了全新...……更多
全新英特尔 至强 可扩展处理器,打破数智化变革瓶颈的一板利斧
...的多模式脑部扫描磁共振成像(MRI)作为数据集,在聚合服务器上迭代聚合本地训练的模型,在不共享任何患者数据的情况下,应用联邦学习方法构建一个有效的图像分割模型,并使模型为多个参与方提供服务。验证测试的结果...……更多
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
... ASIC。通过专门化,Sohu获得了前所未有的性能。一台8xSohu服务器每秒可以处理超过50万个Llama 70B token,等效于160块H100 GPU。Sohu仅支持Transformer推理,并支持当今所有的模型(Google、Meta、Microsoft、OpenAI、Anth……更多
英伟达blackwell计算引擎制造商推出的ai模型
...带宽;升级版H100则与同样由英伟达制造的“Grace”CG100Arm服务器处理器搭配,共包含6个内存堆栈,容量和传输带宽分别为96GB及3.9TB/秒。从比较乐观的角度比较,高端Blackwell与普版H100相比实现了内存与传输带宽的双重2.4倍提升。...……更多
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...才推出的顶配芯片 B200 也要快上超过 10 倍。一台 Sohu 的服务器运行 Llama 70B 每秒可输出超过 50 万个 token,比 H100 服务器(23,000 个 token / 秒)多 20 倍,比 B200 服务器(约 45,000 个 token / 秒)多 10 倍。……更多
云巨头大暴走,自研CPU落地200万张!新一轮芯片洗牌开始了
...实例Amazon EC2 R8g提供支持。这件事还挺让人感慨,有种Arm服务器CPU千帆过尽、苦尽甘来的既视感。服务器CPU领域曾经上演风水轮流转,早期由一众精简指令集前辈一统天下,后来被复杂指令集架构x86逆袭蚕食。等精简指令集中的...……更多
更多关于科技的资讯:
定价更低!高通骁龙X再战Arm PC:对标英特尔/AMD
国际盛大的电子展CES 2025在美国拉斯维加斯如期举行,这一全球科技盛会吸引了无数前沿技术和创新成果亮相。在此次展会上
2025-01-07 22:48:00
货车失控致车辆被撞报废 车主仅轻微擦伤:感谢领克保命
快科技1月7日消息,日前,有博主分享了一则车祸视频,引起网友关注。据介绍,前几天四川雅安京昆高速雅西段,一辆半挂货车失控出入对向车道
2025-01-07 23:18:00
收拾玩具、帮扔垃圾 CES 2025上的追觅扫地机器人都这么科幻了
起猛了这是?扫地机器人竟然长手了,追觅又整新活了。从官宣视频上看,这个扫地机器人顶部配备了一条能转动的机械手,摆动非常灵活
2025-01-07 23:18:00
iOS 18.2.1上线:苹果客服建议所有用户更新系统
快科技1月7日消息,据报道,不少iPhone用户收到了苹果推送的iOS 18.2.1更新,本次更新未说明具体内容,只提到“本更新提供了重要的错误修复
2025-01-07 23:48:00
MergeX 平台:「开放流量与预算」功能全解析
在快速迭代、竞争激烈的广告行业中,智慧调配与管理流量与预算资源成为了广告主与流量方共同面临的难题。如何使有限的预算产生最大的广告效益
2025-01-08 00:00:00
飞猫随身WiFi与全能艺人王一博共登湖南卫视跨年晚会
他是舞台上光芒四射的全能艺人,凭借出色的唱跳能力,在音乐的宇宙里划下深深痕迹。在第12届全球华语音乐榜中榜荣获内地最佳创作歌手
2025-01-08 00:00:00
中科斯欧:数字浪潮下的领航者,探索智能制造与数据创新的新纪元
树立行业标杆,讲好中国故事,传递中国声音,我们聚焦于腾飞的中国经济、崛起的民族品牌和卓越的企业家精神。近日,“崛起的民族品牌”专题系列节目特别邀请了中科斯欧(合肥)科技股份有限公司(简称
2025-01-08 00:00:00
汉德管业:压力许可新突破,热力管材新标杆
在管材管件的领域里,有一颗璀璨的明星正在冉冉升起——汉德管业有限公司。近日,汉德管业有限公司取得了压力许可管材管件压力许可B级证书
2025-01-08 00:00:00
九科信息APA智能自动化,为企业打造下一代“新质生产力”
在数字化转型的大潮中,自动化技术扮演着至关重要的角色。其中,RoboticProcessAutomation(RPA)和AgenticProcessAutomation(APA)作为两种热门的自动化解决方案
2025-01-08 00:01:00
光线柔和,还耐用防虫的吸顶灯,就选三思照明!
吸顶灯作为现代家居中的主力照明,一般的LED吸顶灯,总让人觉得光照刺眼、不够柔和,用了几年之后还容易出现光效衰减、灯体内积累蚊虫的现象
2025-01-08 00:01:00
光学技术再创新!三思照明反射式发光LED吸顶灯开启理想生活
现代人有许多时间都在室内度过,尤其夜晚一家人在客厅其乐融融,或者回卧室休息,吸顶灯都是必不可少的主力照明。但多年来,许多吸顶灯为了保持亮度够高
2025-01-08 00:01:00
三思照明携手Miko妈直播,开启2025“光照革命”
作为LED技术迷,小编一直很关注行业动态。最近小编发现专研LED技术31年的三思照明,又有大动作啦!继与罗永浩、林依轮
2025-01-08 00:01:00
宜准专注者R7见证:2025厦马跑者PB精彩时刻
1月5日早上7:30,2025建发厦门马拉松赛在厦门国际会展中心鸣枪开赛。沐浴着新年的晨光,46个国家和地区的35000名选手齐聚最美环岛赛道
2025-01-08 00:02:00
选品超严的罗永浩、烈儿宝贝,为什么对三思照明如此青睐?
小编对LED领域的动态一向很关注,小编发现,在工程领域享有盛誉的三思照明,近年来在家居领域也是不断发力。而直播合作就是三思照明选择拓展新增长点的重要方式
2025-01-08 00:02:00
绿植养护新技巧,只需三思照明全光谱支架植物灯
植物爱好者们都会遭遇到植物长得缓慢、叶子发黄、不开花等问题,除了水肥不足以及病虫害的因素之外,大概率是因为光照不足!尤其阴天
2025-01-08 00:02:00