• 我的订阅
  • 头条热搜
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...B左右的内存,即使完全忽略内存消耗,也需要305张Groq LPU加速卡才够用。如果考虑到内存消耗,可能需要572张Groq LPU加速卡。官方数据显示,Groq LPU的平均功耗为185W,即使不计算外围设备的功耗,572张Groq LPU加速卡的总功耗也高...……更多
amd旗舰aigpu加速器mi300x对比英伟达h100
...00高出60%。性能:AMD公司在演讲过程中,对比英伟达的H100加速卡,分享了MI300X的性能参数情况,IT之家附上数值如下:内存容量是H100的2.4倍内存带宽是H100的1.6倍FP8TFLOPS精度是H100的1.3倍FP16TFLOPS精度是H100的1.3倍在1v1比较中,训练L……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...进行大幅提升。英伟达于2022年发布了基于Hopper架构的H100加速卡,而现在推出基于Blackwell的加速卡在性能上也得到了全面提升,更擅长处理AI相关任务。从外观来看,Blackwell GPU的体积明显大于H100,采用台积电的4纳米(4NP)工艺...……更多
英伟达尖端图像处理半导体h200开始供货
...运算处理装置)组合的新产品用于最新的LLM上。“最强AI加速卡”GB200包含了两个B200BlackwellGPU和一个基于Arm的GraceCPU ,推理大语言模型性能比H100提升30倍,成本和能耗降至25分之一。GB200采用新一代AI图形处理器架构Blackwell,黄仁...……更多
英特尔披露5nm“中国特供版”AI 芯片,性能或暴降92%,最快6月推出|硅基世界
...售的两款“特供版”AI 芯片产品。具体包括两种硬件形态加速卡:一款型号为HL-328的OAM兼容夹层卡(Mezzanine Card),预计将于今年6月24日推出;另一款是型号为HL-388的PCle加速卡,预计将于今年9月24日推出。而基于内核数量、工作...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...款最热门产品的产能和需求,但据外媒报道,今年内H100加速卡的产能至少同比增长了3倍,且仍有许多产能瓶颈无法解决。比如台积电5nm生产线产能,英伟达的GPU必须使用台积电的CoWoS封装技术,市面上完全找不到别的替代品。...……更多
AI芯片下半场:英伟达不再一家独大
...分向客户提供。另一个芯片大厂AMD也在不久前推出了最新加速卡Instinct MI300X。在发布会现场,PPT上专门打出一行字——大语言模型专用,这被业界视为直接向英伟达宣战。据悉,MI300X的高带宽内存(HBM)密度最高可达英伟达H100...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...狐科技作者 | 梁昌均在全球算力荒的情况下,AI芯片巨头英伟达加速算力竞赛。当地时间11月13日,英伟达宣布推出新一代人工智能芯片H200,称其是目前世界“最强”的AI芯片。H200此次升级主要体现在带宽更高、容量更大的内存...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...模型的性能需求,同时在成本上也是远低于那些高昂的AI加速卡。 英特尔表示,在使用2S 五代至强平台上运行GPT-J 6B模型(60亿参数),它可以实现在大约25毫秒下完成一个Token的处理。不过,对于运行更大的Llama 2 13B模型时,其...……更多
sk海力士hbm3e开始量产
3月19日消息,英伟达今日发布了地表最强的AI加速卡--BlackwellGB200,采用台积电4NP工艺制程,配备192HBM3E内存,共有2080亿个晶体管,推理大语言模型性能比H100提升30倍,成本和能耗降低96%。SK海力士今日发布新闻稿宣布其最新的超...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...希姆STCP920系列采用12nm工艺,是基于RISC-V的人工智能计算加速卡,具备较高的云端AI计算能效比和可编程性,混合支持FP16/INT8数据类型。希姆计算将其在传统AI场景里的方案针对大模型进行了专门的优化,姚金鑫坦言,这一一体机...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...的芯片可有不同的组合方式,包括CPU+GPU、CPU+TPU、CPU+其他加速卡等。相比于通用服务器,AI服务器更适应AI训练和推理的大算力、高并发、大数据流转等需求,已经成为大模型时代的“香饽饽”。以热门AI服务器型号浪潮NF5688M6服...……更多
ChatGPT掀AI热潮 这些芯片厂商将“狂飙”
...芯片的需求将暴增,给低迷的半导体行业带来一股暖流,英伟达、三星电子、SK海力士等都将受益。但是英伟达服务器用AI芯片方案存在发热和功耗过大的问题,谷歌、亚马逊AWS、三星电子、SK海力士、百度等科技巨头厂商也在开...……更多
英特尔至强6主板曝光:双路带来576小核与32条内存插槽
...协,比如说没有完整的PCIe16插槽,这或许让Gaudi3这样的AI加速卡难以发挥最大的作用。英特尔在之前的发布会上表示,至强6处理器的E核的每瓦性能是上代的2.4倍,机架密度也是上代的2.7倍。英特尔表示72个机架服务器就能完成过...……更多
响应速度碾压英伟达,AI芯片领域又出“王炸” 创始人豪言将把计算成本“降至零”
...初创企业在软件层面“争奇斗艳”。而在硬件层面,似乎英伟达已经“一骑绝尘”,该公司生产的GPU芯片“一片难求”,全球AI厂商都争相求购。▲Groq芯片不过就在当地时间20日,初创芯片企业Groq开放了免费试用,其芯片响应速...……更多
英伟达推新一代芯片H200:内存、带宽大升级
11月14日消息,据外媒体报道称,英伟达今天发布了新一代芯片H200,其整体性能相比上一代有着大幅提升。官方公布的细节显示,新的H200芯片是当前用于训练最先进大语言模型H100芯片的升级产品(基于Hopper架构),集成了141GB...……更多
英伟达“骚操作”令人无语:为了抬价竟让显卡停产1个月?
...式AI恰恰需要基于海量的数据进行推理训练,高算力的GPU加速卡自然也成了市场的抢手货。根据FierceElectronics报道,ChatGPT目前需要用25000块英伟达A100GPU芯片来维持训练。大量公司同样需要基于英伟达的CUDA平台进行对AI的训练和推...……更多
...版和Edge10Max三款芯片,出货形态包括芯片、板卡、盒子、加速卡、推理服务器等,可广泛应用于AIoT边缘视频、移动机器人等场景。此外,依托Dee Edge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百...……更多
最强大模型训练芯片H200发布!
英伟达老黄,带着新一代GPU芯片H200再次炸场。官网毫不客气就直说了,“世界最强GPU,专为AI和超算打造”。听说所有AI公司都抱怨内存不够?这回直接141GB大内存,与H100的80GB相比直接提升76%。作为首款搭载HBM3e内存的GPU,内存...……更多
Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖
...排名和推荐系统而设计。分析指出,Meta的目标是降低对英伟达等芯片厂商的依赖。10日当天,Meta(Nasdaq:META)股价收于每股519.83美元,涨0.57%,总市值1.33万亿美元。Wind数据显示,自今年年初以来,Meta股价已涨超47%。从名字来...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...及 2 倍的网络带宽提升。同时,在AI模型算力中,相比于英伟达H100 GPU,Gaudi3 AI芯片的模型训练速度、推理速度分别提升40%和50%,平均性能提高 50%,能效平均提高40%,而成本仅为H100的一小部分。英特尔预计,Gaudi 3将于2024年第二...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...集群。同时,摩尔线程CEO张建中在当天发布了大模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供支持的摩尔线程KUAE平台。近年在AI热潮之下,国内的智算中心不断兴建。根据此前国家信息中心联合浪潮信息发布...……更多
AMD最强AI芯片发布:性能是英伟达H100的1.3倍!
...面向AI及HPC领域的GPU产品InstinctMI300A/MI300X加速器,直接与英伟达(NVIDIA)H100加速器竞争。同时AMD还发布了代号为HawkPoint的最新一代Ryzen8000系列APU,可面向AIPC产品。MI300A:HPC性能达到NVIDIAH100的4倍虽然在今……更多
四月AI芯片三连发,英伟达:无惧竞争!
...AMD的InstinctMI300。美银分析师VivekArya发表研究报告指出,英伟达2024年AI加速器的占有率将超过75%,定制化芯片(如GoogleTPU、亚马逊Trainium/Inferentia加速器、微软Maia)的占有率为10~15%,而剩余的10~15%才是AMD、英特尔及……更多
英伟达斥巨资拿下hbm3内存供应合同
...消息,韩国ChosunBiz报道称,除了大量预定台积电产能外,英伟达还斥巨资拿下了HBM3内存的供应合同。消息人士称,该公司从美光和SK海力士那里预购了700亿至1万亿韩元(IT之家备注:当前约3.84亿至54.9亿元人民币)的HBM3内存。虽...……更多
英伟达blackwell计算引擎制造商推出的ai模型
如果还有人想在AI处理领域跟英伟达正面抗衡,那最好再多做几手准备。除了最强大的技术储备之外,大家可能还需要雄厚的资金支持和上天的意外眷顾。换句话说,如今压制英伟达的唯一可能性恐怕只有天降神迹。日前在圣何...……更多
amd发布新一代面向ai/hpc加速器
...U+GPU的融合加速器。对于MI300X这款APU,AMD对比英伟达的H100加速卡,分享了MI300X的一些性能参数情况,具体数值如下:内存容量是H100的2.4倍;内存带宽是H100的1.6倍;FP8TFLOPS精度是H100的1.3倍;FP16TFLOPS精度是H100的1.3倍;在1v……更多
英特尔推出新款AI芯片:推理性能比英伟达H100快50%
...750亿参数GPT-3模型的训练时间。英特尔表示,Gaudi 3能够比英伟达上一代H100处理器训练特定大型语言模型的速度快40%,在推理端比英伟达H100快50%。基辛格在现场表示,Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更...……更多
英伟达GTC前瞻:最强AI芯片B100将问世,产品路线图有望公布
市场期待AI(人工智能)芯片龙头英伟达即将给出关于“史上最强AI芯片”B100的更多细节。万众瞩目的英伟达GPU技术大会(GTC)开幕在即。当地时间3月18日,黄仁勋将发表主题演讲《见证AI的变革时刻》。市场普遍预计,英伟达...……更多
英伟达发布GB200计算卡:2080亿个晶体管,AI性能提升5倍
在这个星球上,英伟达毫无疑问是如今的AI之王,其推出的H100已经被众多科技企业抢购,而英伟达的营收和利润也是节节攀升。但是在这个算力决定效率的今天,英伟达H100计算卡的算力还远远不够,尤其是像Sora这样的文生视频...……更多
更多关于科技的资讯:
数字赋能品质生活、“非遗”焕发新生机 展会寻“新”见证发展澎湃活力
本文转自:央视网央视网消息:如今,人工智能、机器人技术、数字孪生技术等正在加速发展,在信息技术、智能制造等诸多领域,新质生产力正在把原本天马行空的设想变成触手可及的现实
2024-05-27 12:53:00
realme真我gt5pro系统5.0尝鲜版更新
说起今年科技圈的热词,AI(人工智能)、大模型等自然要首当其冲。而在手机圈,各大智能手机品牌也在自家的系统中,不断加入人工智能的功能以及对人工智能的优化等
2024-05-27 10:21:00
vivo终于妥协,x100高配版本价格显著下调
在当前国产智能手机市场中,vivo独树一帜地保持着其产品线的半年更新周期,特别是在其线下销售的中端S系列,与OPPO、荣耀的相应产品策略相似
2024-05-27 10:20:00
vivos19系列新机5月30日正式亮相
大家选购手机时应该都会先看外观好不好看,而向来有着轻薄高颜值的vivoS系列手机就很符合这样的需求,深受颜控用户们的喜爱
2024-05-27 10:22:00
小米15将于10月中旬发布,支持高刷新率
时间过得很快,转眼间已经到了5月底,与此同时关于各大厂商下半年的旗舰消息也是多了起来,比如小米15便是其中的典型代表,根据近期多位博主的披露
2024-05-27 10:28:00
vivos19系列新机将会带来创新外观设计
近期关于vivoS19系列即将发布的讨论不断,年轻群体热切期待着这款新品的发布。作为vivoS系列的一员,新机将会以满足年轻人的更多需求为目标
2024-05-27 10:24:00
vivos19系列新机亮点公布,全系加入日出云阶镜组
中国人对于东方美学,有着镌刻在血脉基因深处的喜爱,为此vivo早几年就将东方美学与手机科技相融合,带来更具有东方韵味同时时尚感十足的手机外观设计
2024-05-27 10:26:00
vivos19系列新机外观设计细节曝光
经过几天时间的预热,关于vivoS19系列新品的细节看点已经出来了不少,让网友们感到期待不已。最新的多张外观设计海报,也是再次展示了该系列新机的全新外观设计细节
2024-05-27 10:22:00
vivos19系列新机5月30日亮相,颜值超高、灵动优雅
vivo官方微博在近日接连释放出的vivoS19系列新机的预热视频、预热海报,无疑引爆了数码爱好者们的热情。该系列机型将在5月30日亮相
2024-05-27 10:25:00
vivos19系列配色全面升级!
如果你有仔细研究过手机行业的发展历程,那你肯定会发现这些年来发展最为迅猛的其实不是在硬件或软件方面的提升,而是整个手机行业的外观设计都得到进一步的飞跃
2024-05-27 10:26:00
苹果手机视频怎么恢复?三种方法轻松搞定!
在日常生活中,我们使用苹果手机记录了许多珍贵的视频,包括家庭聚会、旅行经历等。但是我们不小心删除了,在“最近删除”文件夹中也找不到
2024-05-27 10:32:00
redmik80pro采用2k直屏,支持120w有线闪充
5月27日消息,博主数码闲聊站暗示,RedmiK80Pro采用2K柔性直屏,搭载高通骁龙8Gen4平台,配备5500毫安时大电池
2024-05-27 10:36:00
it巡检的重要性、实施策略以及应用
在信息技术快速发展的今天,IT系统的稳定性和安全性对于企业至关重要。IT巡检作为确保信息系统健康运行的重要手段,可以帮助及时发现并解决潜在问题
2024-05-27 10:33:00
vivoy100i价格再创新低,搭载天玑6020处理器
低价手机作为手机厂商销量的主要来源,在618大促期间,非常的内卷。当然,目的只有一个,那就是尽可能地提升智能手机的出货量
2024-05-27 10:32:00
如何将iCloud照片恢复到相册
在现代生活中,照片承载着我们的回忆和珍贵的时刻,而iCloud提供了便捷的云存储服务,让用户可以方便地备份和同步手机上的照片
2024-05-27 10:31:00