• 我的订阅
  • 头条热搜
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...B左右的内存,即使完全忽略内存消耗,也需要305张Groq LPU加速卡才够用。如果考虑到内存消耗,可能需要572张Groq LPU加速卡。官方数据显示,Groq LPU的平均功耗为185W,即使不计算外围设备的功耗,572张Groq LPU加速卡的总功耗也高...……更多
amd旗舰aigpu加速器mi300x对比英伟达h100
...00高出60%。性能:AMD公司在演讲过程中,对比英伟达的H100加速卡,分享了MI300X的性能参数情况,IT之家附上数值如下:内存容量是H100的2.4倍内存带宽是H100的1.6倍FP8TFLOPS精度是H100的1.3倍FP16TFLOPS精度是H100的1.3倍在1v1比较中,训练L……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...进行大幅提升。英伟达于2022年发布了基于Hopper架构的H100加速卡,而现在推出基于Blackwell的加速卡在性能上也得到了全面提升,更擅长处理AI相关任务。从外观来看,Blackwell GPU的体积明显大于H100,采用台积电的4纳米(4NP)工艺...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...款最热门产品的产能和需求,但据外媒报道,今年内H100加速卡的产能至少同比增长了3倍,且仍有许多产能瓶颈无法解决。比如台积电5nm生产线产能,英伟达的GPU必须使用台积电的CoWoS封装技术,市面上完全找不到别的替代品。...……更多
AI芯片下半场:英伟达不再一家独大
...分向客户提供。另一个芯片大厂AMD也在不久前推出了最新加速卡Instinct MI300X。在发布会现场,PPT上专门打出一行字——大语言模型专用,这被业界视为直接向英伟达宣战。据悉,MI300X的高带宽内存(HBM)密度最高可达英伟达H100...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...狐科技作者 | 梁昌均在全球算力荒的情况下,AI芯片巨头英伟达加速算力竞赛。当地时间11月13日,英伟达宣布推出新一代人工智能芯片H200,称其是目前世界“最强”的AI芯片。H200此次升级主要体现在带宽更高、容量更大的内存...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...模型的性能需求,同时在成本上也是远低于那些高昂的AI加速卡。 英特尔表示,在使用2S 五代至强平台上运行GPT-J 6B模型(60亿参数),它可以实现在大约25毫秒下完成一个Token的处理。不过,对于运行更大的Llama 2 13B模型时,其...……更多
sk海力士hbm3e开始量产
3月19日消息,英伟达今日发布了地表最强的AI加速卡--BlackwellGB200,采用台积电4NP工艺制程,配备192HBM3E内存,共有2080亿个晶体管,推理大语言模型性能比H100提升30倍,成本和能耗降低96%。SK海力士今日发布新闻稿宣布其最新的超...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...希姆STCP920系列采用12nm工艺,是基于RISC-V的人工智能计算加速卡,具备较高的云端AI计算能效比和可编程性,混合支持FP16/INT8数据类型。希姆计算将其在传统AI场景里的方案针对大模型进行了专门的优化,姚金鑫坦言,这一一体机...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...的芯片可有不同的组合方式,包括CPU+GPU、CPU+TPU、CPU+其他加速卡等。相比于通用服务器,AI服务器更适应AI训练和推理的大算力、高并发、大数据流转等需求,已经成为大模型时代的“香饽饽”。以热门AI服务器型号浪潮NF5688M6服...……更多
响应速度碾压英伟达,AI芯片领域又出“王炸” 创始人豪言将把计算成本“降至零”
...初创企业在软件层面“争奇斗艳”。而在硬件层面,似乎英伟达已经“一骑绝尘”,该公司生产的GPU芯片“一片难求”,全球AI厂商都争相求购。▲Groq芯片不过就在当地时间20日,初创芯片企业Groq开放了免费试用,其芯片响应速...……更多
英伟达推新一代芯片H200:内存、带宽大升级
11月14日消息,据外媒体报道称,英伟达今天发布了新一代芯片H200,其整体性能相比上一代有着大幅提升。官方公布的细节显示,新的H200芯片是当前用于训练最先进大语言模型H100芯片的升级产品(基于Hopper架构),集成了141GB...……更多
...版和Edge10Max三款芯片,出货形态包括芯片、板卡、盒子、加速卡、推理服务器等,可广泛应用于AIoT边缘视频、移动机器人等场景。此外,依托Dee Edge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百...……更多
最强大模型训练芯片H200发布!
英伟达老黄,带着新一代GPU芯片H200再次炸场。官网毫不客气就直说了,“世界最强GPU,专为AI和超算打造”。听说所有AI公司都抱怨内存不够?这回直接141GB大内存,与H100的80GB相比直接提升76%。作为首款搭载HBM3e内存的GPU,内存...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...集群。同时,摩尔线程CEO张建中在当天发布了大模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供支持的摩尔线程KUAE平台。近年在AI热潮之下,国内的智算中心不断兴建。根据此前国家信息中心联合浪潮信息发布...……更多
AMD最强AI芯片发布:性能是英伟达H100的1.3倍!
...面向AI及HPC领域的GPU产品InstinctMI300A/MI300X加速器,直接与英伟达(NVIDIA)H100加速器竞争。同时AMD还发布了代号为HawkPoint的最新一代Ryzen8000系列APU,可面向AIPC产品。MI300A:HPC性能达到NVIDIAH100的4倍虽然在今……更多
英伟达斥巨资拿下hbm3内存供应合同
...消息,韩国ChosunBiz报道称,除了大量预定台积电产能外,英伟达还斥巨资拿下了HBM3内存的供应合同。消息人士称,该公司从美光和SK海力士那里预购了700亿至1万亿韩元(IT之家备注:当前约3.84亿至54.9亿元人民币)的HBM3内存。虽...……更多
英伟达blackwell计算引擎制造商推出的ai模型
如果还有人想在AI处理领域跟英伟达正面抗衡,那最好再多做几手准备。除了最强大的技术储备之外,大家可能还需要雄厚的资金支持和上天的意外眷顾。换句话说,如今压制英伟达的唯一可能性恐怕只有天降神迹。日前在圣何...……更多
amd发布新一代面向ai/hpc加速器
...U+GPU的融合加速器。对于MI300X这款APU,AMD对比英伟达的H100加速卡,分享了MI300X的一些性能参数情况,具体数值如下:内存容量是H100的2.4倍;内存带宽是H100的1.6倍;FP8TFLOPS精度是H100的1.3倍;FP16TFLOPS精度是H100的1.3倍;在1v……更多
英伟达GTC前瞻:最强AI芯片B100将问世,产品路线图有望公布
市场期待AI(人工智能)芯片龙头英伟达即将给出关于“史上最强AI芯片”B100的更多细节。万众瞩目的英伟达GPU技术大会(GTC)开幕在即。当地时间3月18日,黄仁勋将发表主题演讲《见证AI的变革时刻》。市场普遍预计,英伟达...……更多
英伟达发布GB200计算卡:2080亿个晶体管,AI性能提升5倍
在这个星球上,英伟达毫无疑问是如今的AI之王,其推出的H100已经被众多科技企业抢购,而英伟达的营收和利润也是节节攀升。但是在这个算力决定效率的今天,英伟达H100计算卡的算力还远远不够,尤其是像Sora这样的文生视频...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...夜,谷歌(Google)、AMD先后上新,终于要“打爆”OpenAI和英伟达了。钛媒体App 12月7日消息,北京时间今天凌晨,谷歌CEO桑达尔·皮查伊 (Sundar Pichai) 宣布,谷歌公司正式发布迄今为止功能最强大、最通用的多模态人工智能(AI)...……更多
【玖越机器人】视频网站为了降本纷纷砍画质,为何只有谷歌仍在坚持?
...所以谷歌采用了固件管理的队列来启用并发转码。编辑VCU加速卡/ 谷歌比如某个操作是“将这一帧的画面编码为VP9位流,”那么应用程序负责将指令写入队列中,固件则只负责队列调度和编解码器核心的激活。如此一来编程只发...……更多
AI算力板块大涨,寒武纪20cm涨停!券商预计迭代有望加速
...司已推出的产品体系覆盖了云端、边缘端的智能芯片及其加速卡、训练整机、处理器IP及软件,可满足云、边、端不同规模的人工智能计算需求。公司的智能芯片和处理器产品可高效支持视觉(图像和视频的智能处理)、语音处...……更多
amd新款gpu成功引起市场关注
...ech报道,AMD这次的新款GPU成功引起了市场的关注,在计算加速卡领域似乎要强势回归,竞争对手的客户里,不少都对InstinctMI300X产生了兴趣。InstinctMI300X巨大的性能提升是一方面,另外AMD选择的新品发布时间十分完美,恰逢英伟...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...芯片大决战,不少芯片初创公司跃跃欲试,希望一举打破英伟达的垄断地位。而AMD的MI300,在部署32K上下文窗口的GPT-4模型时,居然比H100效果更好?AI芯片大决战,即将来临!AI硬件开发商初创公司的未来会怎样?Tenstorrent CEO David...……更多
集邦咨询:2023年hbm需求同比增长58%
...力士和三星两家公司,英伟达的H100/H800、AMD的MI300系列AI加速卡均采用HBM3。SK海力士和三星预计将在2024年第一季度提供HBM3e样品。另一方面,美国内存公司美光正在绕过HBM3,直接追求HBM3e。HBM3e将采用24Gb单晶芯片堆栈,并采用8层(...……更多
...境增加AMD、英特尔芯片,以及寒武纪、海光等国产芯片及加速卡融合跑模型训练;三是租用性价比更高的服务器云算力,补充算力不足情况。不过,芯片研发是一项长周期、重投入的工作,创业公司想要在短期内快速研发出比肩...……更多
英伟达将购买12层HBM3E内存,由三星电子独家供货
3月25日消息,据媒体报道,英伟达最快将从9月开始大量购买12层HBM3E内存,这些内存将由三星电子独家供货。在GTC2024上,黄仁勋曾在三星电子的12层HBM3E实物产品上留下了\"黄仁勋认证(JENSENAPPROVED)\"的签名。而SK海力士因部分...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
昨天凌晨,英伟达发布了2024财年第四季度财报,业绩再次超出预期。但比起亮眼的业绩,更让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数...……更多
更多关于科技的资讯:
荣耀赵明称其他小折叠缺乏想象力,超大外屏成板上钉钉
提到小折叠屏手机,很多人心里都会闪过“美丽小废物”这类想法。确实,如今折叠屏市场产品众多,但基本所有小折叠屏手机都折戟沉沙
2024-05-28 16:57:00
C919商业首飞1周年:执行2181趟航班,飞行6090小时,运送30万人
5月28日,国产大飞机C919迎来运营里程碑的日子,累计安全运营超过6千小时,执行航班达到2181班,运送旅客约30万人次
2024-05-28 16:58:00
vivo X100 Ultra开售1小时销售额破5亿;黄仁勋身家飙升至6000亿
vivo的顶级超大杯机型vivo X100 Ultra今天正式开售。根据官方公布的数据,该机开售1小时,全平台累计销售额突破5亿
2024-05-28 16:58:00
美国芯片再见了!中国芯片自强不息,外媒:希望中国购买芯片!
中国芯片产业的今世挣扎与来世希望。起初,美帝国主义动起了坏心思,对我们红旗飘飘的芯片产业使劲搅局,捣得一塌糊涂。这招可不轻
2024-05-28 17:03:00
笑麻了!中国再次成功突破“被制裁技术限制”,美国媒体骂声一片
美国封锁量子计算,中国却全球开放:这一步棋,我们到底赚了还是亏了?根据《南华早报》的消息美国对中国的量子计算技术又一次施加了新的制裁
2024-05-28 17:04:00
发展新质生产力看山西国企:塑造竞争新优势 潞安化工集团夯实数字企业发展底座
近年来,数字经济蓬勃发展,在推动生产力发展和生产关系变革的同时,对产业数字化转型升级提出了新要求。日前,潞安化工集团党委书记
2024-05-28 13:50:00
本文转自:济南时报“超速”式扩张,山东已开396家门店,追击瑞幸咖啡的库迪“激进”吗?库迪“迷雾”●官方称整体闭店率2.6%第三方统计数据显示至少7.7%●运营欠佳、深陷价格战…
2024-05-28 14:14:00
本文转自:温州日报本报讯 (记者 朱则金 通讯员 虞建茅) “2024大众业务服饰行业抖音鞋服营销实战”主题沙龙,近日在龙湾区文昌创客小镇城市客厅举办
2024-05-28 14:18:00
来源:新华社新华社东京5月28日电日本大型重工业公司IHI最近宣布,其下属一家子公司2003年以来篡改了超过4000台发动机的燃油效率数据
2024-05-28 14:19:00
重庆渝北区:“五大超能力”引爆空港
2024年5月31日-6月1日,即将迎来T CITY桃源天地2周年庆。T CITY桃源天地一直以来为消费者提供生活高品质的购物体验
2024-05-28 14:21:00
乔锋智能上市IPO:荣获多项殊荣 专利数量突破200项 研发
机床作为工业母机,其先进程度是衡量一个国家制造业发展水平的重要因素。近年来,我国制定了《产业结构调整指导目录(2019年本)》《中华人民共和国国民经济和社会发展第十四个五年规划和
2024-05-28 14:24:00
本文转自:人民网人民网北京5月28日电 (焦磊)在数字化时代的浪潮下,投影仪作为家庭娱乐、工作展示的重要工具,已经深入大量用户的日常生活
2024-05-28 14:24:00
中原算力谷揭牌 助推郑州打造“算力之城”
本文转自:中国新闻网中新网郑州5月28日电 (记者 刘鹏)28日,中原算力谷揭牌暨战略合作签约仪式在郑州市郑东新区先进制造业开发区举行
2024-05-28 14:30:00
2024中国体博会落幕 舒华体育\
进入面积达756平方米的舒华品牌体验馆,浓厚的运动氛围便扑面而来。在2024年(第41届)中国国际体育用品博览会上,舒华体育与中国体育科学学会合作打造的"运动健康促进中心"亮相
2024-05-28 14:31:00
张志刚 真正的创新是从零开始的探索
本文转自:新民晚报如果问新质生产力将为社会带来怎样的动能?来到今天的“大零号湾”科技创新策源功能区,或许已能令人切身感受到“实感”
2024-05-28 14:33:00