英伟,推理,速度,加速卡,内存,芯片头条新闻资讯订阅

我的订阅
头条热搜

我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！

虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！

头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。

...B左右的内存，即使完全忽略内存消耗，也需要305张Groq LPU加速卡才够用。如果考虑到内存消耗，可能需要572张Groq LPU加速卡。官方数据显示，Groq LPU的平均功耗为185W，即使不计算外围设备的功耗，572张Groq LPU加速卡的总功耗也高...……更多

2024-02-21 14:03:00英伟,推理,速度,加速卡,内存,芯片

amd旗舰aigpu加速器mi300x对比英伟达h100

...00高出60%。性能：AMD公司在演讲过程中，对比英伟达的H100加速卡，分享了MI300X的性能参数情况，IT之家附上数值如下：内存容量是H100的2.4倍内存带宽是H100的1.6倍FP8TFLOPS精度是H100的1.3倍FP16TFLOPS精度是H100的1.3倍在1v1比较中，训练L……更多

2023-12-08 05:06:00英伟,加速器,旗舰,芯片,堆栈,加速卡

推理性能提升30倍！英伟达发布史上最强AI芯片，黄仁勋：将成

...进行大幅提升。英伟达于2022年发布了基于Hopper架构的H100加速卡，而现在推出基于Blackwell的加速卡在性能上也得到了全面提升，更擅长处理AI相关任务。从外观来看，Blackwell GPU的体积明显大于H100，采用台积电的4纳米（4NP）工艺...……更多

2024-03-19 08:53:00英伟,推理,芯片,性能,成功,产品

英伟达尖端图像处理半导体h200开始供货

...运算处理装置）组合的新产品用于最新的LLM上。“最强AI加速卡”GB200包含了两个B200BlackwellGPU和一个基于Arm的GraceCPU ，推理大语言模型性能比H100提升30倍，成本和能耗降至25分之一。GB200采用新一代AI图形处理器架构Blackwell，黄仁...……更多

2024-03-30 02:04:00英伟,图像处理,尖端,半导体,供货,图像

英特尔披露5nm“中国特供版”AI 芯片，性能或暴降92%，

...售的两款“特供版”AI 芯片产品。具体包括两种硬件形态加速卡：一款型号为HL-328的OAM兼容夹层卡（Mezzanine Card），预计将于今年6月24日推出；另一款是型号为HL-388的PCle加速卡，预计将于今年9月24日推出。而基于内核数量、工作...……更多

2024-04-15 17:00:00英特,英特尔,中国,芯片,性能,世界

微软紧随英伟达发布芯片，老黄还不慌吗？

...款最热门产品的产能和需求，但据外媒报道，今年内H100加速卡的产能至少同比增长了3倍，且仍有许多产能瓶颈无法解决。比如台积电5nm生产线产能，英伟达的GPU必须使用台积电的CoWoS封装技术，市面上完全找不到别的替代品。...……更多

2023-11-23 09:36:00老黄,英伟,微软,芯片,芯片,英伟

AI芯片下半场：英伟达不再一家独大

...分向客户提供。另一个芯片大厂AMD也在不久前推出了最新加速卡Instinct MI300X。在发布会现场，PPT上专门打出一行字——大语言模型专用，这被业界视为直接向英伟达宣战。据悉，MI300X的高带宽内存（HBM）密度最高可达英伟达H100...……更多

2023-11-16 23:46:00英伟,芯片,一家,芯片,英伟,微软

英伟达推出史上最强AI芯片H200：推理性能提升90%，无缘

...狐科技作者 | 梁昌均在全球算力荒的情况下，AI芯片巨头英伟达加速算力竞赛。当地时间11月13日，英伟达宣布推出新一代人工智能芯片H200，称其是目前世界“最强”的AI芯片。H200此次升级主要体现在带宽更高、容量更大的内存...……更多

2023-11-14 14:05:00英伟,中国,推理,芯片,性能,市场

英特尔第五代至强可扩展处理器发布：AI推理性能提升42%！

...模型的性能需求，同时在成本上也是远低于那些高昂的AI加速卡。英特尔表示，在使用2S 五代至强平台上运行GPT-J 6B模型（60亿参数），它可以实现在大约25毫秒下完成一个Token的处理。不过，对于运行更大的Llama 2 13B模型时，其...……更多

2023-12-16 13:49:00英特,英特尔,推理,处理器,性能,处理

sk海力士hbm3e开始量产

3月19日消息，英伟达今日发布了地表最强的AI加速卡--BlackwellGB200，采用台积电4NP工艺制程，配备192HBM3E内存，共有2080亿个晶体管，推理大语言模型性能比H100提升30倍，成本和能耗降低96%。SK海力士今日发布新闻稿宣布其最新的超...……更多

2024-03-20 03:27:00力士,力士,可处理,产品,进一,芯片

大模型推理乘上RISC-V快车？国内AI芯片创企推大模型系列

...希姆STCP920系列采用12nm工艺，是基于RISC-V的人工智能计算加速卡，具备较高的云端AI计算能效比和可编程性，混合支持FP16/INT8数据类型。希姆计算将其在传统AI场景里的方案针对大模型进行了专门的优化，姚金鑫坦言，这一一体机...……更多

2023-11-15 15:41:00模型,一体机,推理,快车,芯片,一体

AI服务器缺货真相调查：两天涨价30万，连“味精大王”都入场

...的芯片可有不同的组合方式，包括CPU+GPU、CPU+TPU、CPU+其他加速卡等。相比于通用服务器，AI服务器更适应AI训练和推理的大算力、高并发、大数据流转等需求，已经成为大模型时代的“香饽饽”。以热门AI服务器型号浪潮NF5688M6服...……更多

2023-10-21 17:43:00味精,缺货,大王,真相,调查,服务器

ChatGPT掀AI热潮这些芯片厂商将“狂飙”

...芯片的需求将暴增，给低迷的半导体行业带来一股暖流，英伟达、三星电子、SK海力士等都将受益。但是英伟达服务器用AI芯片方案存在发热和功耗过大的问题，谷歌、亚马逊AWS、三星电子、SK海力士、百度等科技巨头厂商也在开...……更多

2023-02-14 14:00:00狂飙,热潮,芯片,厂商,英伟,芯片

英特尔至强6主板曝光：双路带来576小核与32条内存插槽

...协，比如说没有完整的PCIe16插槽，这或许让Gaudi3这样的AI加速卡难以发挥最大的作用。英特尔在之前的发布会上表示，至强6处理器的E核的每瓦性能是上代的2.4倍，机架密度也是上代的2.7倍。英特尔表示72个机架服务器就能完成过...……更多

2024-04-18 16:14:00英特,插槽,英特尔,主板,内存,插槽

响应速度碾压英伟达，AI芯片领域又出“王炸” 创始人豪言将把

...初创企业在软件层面“争奇斗艳”。而在硬件层面，似乎英伟达已经“一骑绝尘”，该公司生产的GPU芯片“一片难求”，全球AI厂商都争相求购。▲Groq芯片不过就在当地时间20日，初创芯片企业Groq开放了免费试用，其芯片响应速...……更多

2024-02-22 16:46:00英伟,豪言,创始人,芯片,成本,速度

英伟达推新一代芯片H200：内存、带宽大升级

11月14日消息，据外媒体报道称，英伟达今天发布了新一代芯片H200，其整体性能相比上一代有着大幅提升。官方公布的细节显示，新的H200芯片是当前用于训练最先进大语言模型H100芯片的升级产品（基于Hopper架构），集成了141GB...……更多

2023-11-14 20:52:00英伟,新一代,芯片,带宽,内存,升级

英伟达“骚操作”令人无语：为了抬价竟让显卡停产1个月？

...式AI恰恰需要基于海量的数据进行推理训练，高算力的GPU加速卡自然也成了市场的抢手货。根据FierceElectronics报道，ChatGPT目前需要用25000块英伟达A100GPU芯片来维持训练。大量公司同样需要基于英伟达的CUDA平台进行对AI的训练和推...……更多

2023-04-24 00:53:00英伟,无语,显卡,英伟,显卡,品牌

云天励飞发布14nm Chiplet大模型推理芯片

...版和Edge10Max三款芯片，出货形态包括芯片、板卡、盒子、加速卡、推理服务器等，可广泛应用于AIoT边缘视频、移动机器人等场景。此外，依托Dee Edge10创新的D2D chiplet架构打造的X5000推理卡，已适配并可承载SAM CV大模型、Llama2等百...……更多

2023-11-16 18:36:00云天,推理,芯片,模型,芯片,云天

最强大模型训练芯片H200发布！

英伟达老黄，带着新一代GPU芯片H200再次炸场。官网毫不客气就直说了，“世界最强GPU，专为AI和超算打造”。听说所有AI公司都抱怨内存不够？这回直接141GB大内存，与H100的80GB相比直接提升76%。作为首款搭载HBM3e内存的GPU，内存...……更多

2023-11-14 20:51:00芯片,模型,训练,英伟,内存,节点

Meta推出新版自研AI芯片：性能较上代提高三倍，降低对英伟

...排名和推荐系统而设计。分析指出，Meta的目标是降低对英伟达等芯片厂商的依赖。10日当天，Meta（Nasdaq：META）股价收于每股519.83美元，涨0.57%，总市值1.33万亿美元。Wind数据显示，自今年年初以来，Meta股价已涨超47%。从名字来...……更多

2024-04-11 12:44:00英伟,上代,高三,芯片,性能,芯片

AI算力大战开启：英特尔AI芯片性能超越H100，谷歌云推出

...及 2 倍的网络带宽提升。同时，在AI模型算力中，相比于英伟达H100 GPU，Gaudi3 AI芯片的模型训练速度、推理速度分别提升40%和50%，平均性能提高 50%，能效平均提高40%，而成本仅为H100的一小部分。英特尔预计，Gaudi 3将于2024年第二...……更多

2024-04-10 11:22:00英特,歌云,芯片,英特尔,大战,性能

芯片战场丨瞄准大模型摩尔线程首个千卡智算中心落地

...集群。同时，摩尔线程CEO张建中在当天发布了大模型智算加速卡MTT S4000，以及专为千亿参数大模型训练和推理提供支持的摩尔线程KUAE平台。近年在AI热潮之下，国内的智算中心不断兴建。根据此前国家信息中心联合浪潮信息发布...……更多

2023-12-20 10:52:00摩尔,线程,落地,战场,芯片,模型

AMD最强AI芯片发布：性能是英伟达H100的1.3倍！

...面向AI及HPC领域的GPU产品InstinctMI300A/MI300X加速器，直接与英伟达（NVIDIA）H100加速器竞争。同时AMD还发布了代号为HawkPoint的最新一代Ryzen8000系列APU，可面向AIPC产品。MI300A：HPC性能达到NVIDIAH100的4倍虽然在今……更多

2023-12-07 22:24:00英伟,芯片,性能,性能,芯片,内存

四月AI芯片三连发，英伟达：无惧竞争！

...AMD的InstinctMI300。美银分析师VivekArya发表研究报告指出，英伟达2024年AI加速器的占有率将超过75%，定制化芯片（如GoogleTPU、亚马逊Trainium/Inferentia加速器、微软Maia）的占有率为10~15%，而剩余的10~15%才是AMD、英特尔及……更多

2024-04-21 12:25:00三连,英伟,芯片,竞争,芯片,英特

英伟达斥巨资拿下hbm3内存供应合同

...消息，韩国ChosunBiz报道称，除了大量预定台积电产能外，英伟达还斥巨资拿下了HBM3内存的供应合同。消息人士称，该公司从美光和SK海力士那里预购了700亿至1万亿韩元（IT之家备注：当前约3.84亿至54.9亿元人民币）的HBM3内存。虽...……更多

2024-01-01 06:24:00英伟,巨资,内存,合同,供应,英伟

英伟达blackwell计算引擎制造商推出的ai模型

如果还有人想在AI处理领域跟英伟达正面抗衡，那最好再多做几手准备。除了最强大的技术储备之外，大家可能还需要雄厚的资金支持和上天的意外眷顾。换句话说，如今压制英伟达的唯一可能性恐怕只有天降神迹。日前在圣何...……更多

2024-03-20 02:59:00英伟,制造商,模型,引擎,制造,英伟

amd发布新一代面向ai/hpc加速器

...U+GPU的融合加速器。对于MI300X这款APU，AMD对比英伟达的H100加速卡，分享了MI300X的一些性能参数情况，具体数值如下：内存容量是H100的2.4倍；内存带宽是H100的1.6倍；FP8TFLOPS精度是H100的1.3倍；FP16TFLOPS精度是H100的1.3倍；在1v……更多

2023-12-08 09:59:00加速器,新一代,速度,加速器,精度,四代