• 我的订阅
  • 头条热搜
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...能很多人还是低估了。据英伟达电话会议披露,公司全年数据中心里已经有40%的收入来自推理业务,超出了绝大部分人预期。而在这次财报电话会议里,老黄总共提到了16次“推理”这个词提了,而“训练”只有8次。这也侧面证...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...AMD、英特尔竞赛英伟达表示,H200可以部署在各种类型的数据中心,包括本地、云、混合云和边缘,其全球生态系统合作伙伴服务器制造商(如华硕、戴尔、惠普、联想等)可以利用H200更新其现有系统。该公司预计,明年第二季...……更多
...AI芯片Artemis今年正式投产。据了解,新的芯片将被应用于数据中心的推理任务,与英伟达等供应商的GPU一起协同工作。Meta发言人之前表示:我们相信,我们自主开发的加速器将与市面上的GPU相得益彰,为Meta的任务提供最佳的性...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...)。根据人工智能科学家贾扬清分享的数据显示,目前,数据中心每月每千瓦的平均价格约为20美元,这意味着572张Groq LPU加速卡每年的电费为105.8*200*12=25.4万美元。贾扬清还表示,使用4张NVIDIA H100加速卡就可以实现572张Groq LPU一...……更多
...研AI推理芯片Artemis。预计Meta可于年内完成该芯片在自有数据中心的部署,与英伟达GPU协同提供算力。该芯片是Meta去年宣布的内部芯片生产线的第二代产品,有助于减少Meta对占据市场主导地位的英伟达芯片的依赖,并控制运行AI...……更多
英伟达深夜炸场,世界最强AI芯片H200震撼发布,性能飙升90%
...英伟达更是在官方公告中宣布了全新的H200和B100,将过去数据中心芯片两年一更新的速率直接翻倍。以推理1750亿参数的GPT-3为例,今年刚发布的H100是前代A100性能的11倍,明年即将上市的H200相对于H100则有超过60%的提升,而再之后...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...于公司在AI方面的快速进展以及云计算客户的购买承诺,数据中心GPU的收入预计将在第四季度达到4亿美元,2024年将超过20亿美元。这一增长也将使MI300成为AMD历史上销售额最快达到10亿美元的产品。对此,业内对于MI300X的销售额...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...来支持高达10万亿参数的AI模型训练和大语言模型的实时推理。有望在数据处理、工程模拟、电子设计自动化、计算机辅助药物设计、量子计算和生成人工智能等领域实现新的突破。用黄仁勋的原话来说,它就是“当今世界上最...……更多
财报大涨,股价微跌,英伟达放不下中国市场|焦点分析
...588%;公司毛利率为75%,同比提升18.9%。英伟达Q3财报数据数据中心仍是本季度营收占比最高的业务,达到145.1 亿美元,较一年前增长了279%,环比增长 41%。不过,本次财报发布,英伟达在资本市场的反应并不理想,盘后交易还下...……更多
微软难以摆脱英伟达 |焦点分析
...困境摆在微软、谷歌等一众云巨头公司面前,只是瓶颈从数据中心变成了建数据中心的芯片。这种对高性能AI芯片的渴望和需求,随着大模型及生成式AI的发展将越来越强。 微软从2019年便开始自研AI芯片,在此次技术大会上,两...……更多
最强大模型训练芯片H200发布!
...味着什么?来看测试数据。 在HBM3e加持下,H200让Llama-70B推理性能几乎翻倍,运行GPT3-175B也能提高60%。对AI公司来说还有一个好消息:H200与H100完全兼容,意味着将H200添加到已有系统中不需要做任何调整。最强AI芯片只能当半年除...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...的揭幕演讲,介绍微软在ESG、新一代空芯光纤、AzureBoost数据中心等项目的新动态。而整场演讲的重头戏,非AI莫属——尤其是首款自研AI芯片AzureMaia100的亮相,成为场内场外无数聚光灯下的焦点。微软重视AI人所共知,发力自研...……更多
英伟达最强芯片之后,“卖铲子”生意更抢手了
...。这已是英伟达实现连续四个季度的盈利超出市场预期。数据中心,即智能芯片业务是英伟达收入的“火车头”。英伟达第四财季数据中心收入达184亿美元,比第三季度增长27%,同比增长409%;全年收入增长217%,达到创纪录的475...……更多
Meta第二代自研AI芯片正式投产 欲摆脱英伟达依赖
...,以降低对英伟达等供应商的依赖。新的芯片将被应用于数据中心的推理任务,与英伟达等供应商的GPU一起协同工作。此前Meta发言人表示:我们相信,我们自主开发的加速器将与市面上的GPU相得益彰,为Meta的任务提供最佳的性...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...结合了两个B200 GPU和一个独立的Grace CPU,将能够使大模型推理工作负载的性能提升30倍,同时提高效率。相比于H100,它可以“将成本和能源消耗降至1/25”。这就意味着,以前训练一个拥有1.8万亿参数的模型需要8000个Hopper GPU 和15...……更多
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...。图/英伟达 而谷歌自研 TPU 一开始的目的就是用在全球数据中心,不可能不重视多芯片互连技术。事实上,谷歌也没有公布训练 Gemini 使用的 TPU 数目,而是强调动用了不只一个集群,甚至不只一个数据中心。不仅如此,谷歌还...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...的有效技术路径。这些新的变化都为基于RISC-V技术线路做数据中心芯片的希姆计算展现出新的市场机会。 二、系列一体机设备落地,场景私有化本地部署策略解析希姆计算联合国鑫推出的一系列针对大模型推理场景的一体机,...……更多
AI芯片下半场:英伟达不再一家独大
...X220,这是韩国国内首款用于提供高速低功耗AI服务所需的数据中心的芯片。两年后,SK电信将Sapeon业务分拆出来,使其成为总部位于加州的一个独立实体企业,以加速人工智能芯片的商业化。该公司在声明中表示,X330芯片的计算...……更多
ChatGPT一周年|炼制大模型芯片短缺数据有限,何以解忧?
...一些影响,比如美国的AMD,AMD的消费级芯片市占率不错,数据中心的占有率相对较低,如果把消费级的能力在数据中心上延展,应该是有机会的。另一个可能的玩家是谷歌,谷歌的TPU(张量处理器)未来只要愿意走自由化的支持...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...计算密度和效能,AI服务器的散热和功耗管理,以及绿色数据中心的构建也成为设计的重要考虑因素。”新华三于今年6月就推出了面向大模型的AI服务器H3C UniServer R5500 G6,据称相较上一代产品算力提升3倍,对于GPT-4大模型训练场...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...I 工作负载进行了优化,并由MI300X提供支持;Meta公司将在数据中心采用AMD新推的MI300X芯片产品。甲骨文表示,公司将在云服务中采用AMD的新款芯片,预计将在2024年发布。 然而,当前AMD主要面临三个问题:一是AMD产能有限,英伟...……更多
「运气使然」英伟达,压得英特尔喘不过气
...来独立运作并自负盈亏。而在人工智能领域,英特尔面向数据中心的人工智能芯片相比 AMD 尚且缺少竞争力,更遑论是与英伟达一较高下。但英特尔不想再一次错过人工智能时代。今年以来,英特尔就在极力打造「AI PC」的概念...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供支持的摩尔线程KUAE平台。近年在AI热潮之下,国内的智算中心不断兴建。根据此前国家信息中心联合浪潮信息发布的《智能计算中心创新发展指南》统计,目前全...……更多
【产业互联网周报】字节回应被曝秘密利用OpenAI;英特尔预告Gaudi 3将超越H100;阿里云M7蔡英华离职;马斯克回应Grok抄ChatGPT作业
...标。(界面)英特尔预告Gaudi 3将超越H100,发布新一代AI数据中心和PC芯片英特尔宣布推出一系列AI新品,包括面向企业的第五代至强(Xeon)处理器,以及面向个人电脑(PC)的酷睿(Core)Ultra芯片。同时,英特尔CEO基辛格(Pat Gel...……更多
美国政府加速限制,要求英伟达立即停止A800/H800芯片销往中国|硅基世界
...BIS出口许可证。同时从即日起,中国无法再获得英伟达在数据中心方面的任何 AI 算力芯片,包括腾讯、字节跳动等买家赶在禁令生效前抢货的机会被彻底堵死。英伟达在声明中称,基于这些产品在全世界范围内的广泛需求,美...……更多
英伟达推出新一代芯片,“AI+”产业有望加速发展
...ops。而将两个B200与单个Grace CPU相结合的GB200,则可以为LLM推理工作负载提供30倍的性能,同时大大提高效率。比起H100,GB200的成本和能耗降低了25倍。简单说,B200、GB200的运算能力不仅比H100强得多,还比H100降低了成本、耗能。英...……更多
马斯克梦想AI超算霸权,旗下公司却\\\
...芯片等产品正在为生成式人工智能、机器人技术、科研和数据中心项目提供强大的算力支持。最近一个财季,英伟达的收入飙升至221亿美元,增长率高达265%。去年,其销售额甚至超过了业界巨头英特尔。与此同时,马斯克旗下...……更多
AI行情再度席卷而来,机构看好这三个细分赛道丨ETF观察
...全年业绩报告。公司营收及利润率连续三个季度创纪录,数据中心业务提供最大增长动力。美东时间2月23日,英伟达盘中总市值也突破2万亿美元。此外,Sora文生图大模型、谷歌Gemma模型等各类AI大模型产品层出不穷,2024年AI大模...……更多
大模型下沉,汽车需要存算一体芯片|超级观点
... 亿美元。而AMD CEO苏姿丰在发布会上也表示,到2027年,仅数据中心AI加速器市场规模将达4000亿美元。纵观整个AI发展过程,过去算力需求是以倍数增加的,如今算力增加呈指数级别,如果按照这个速度增长,未来大模型对算力的...……更多
夹缝中的英伟达中国 | 深氪lite
...我们冲了一波业绩,但第二波被禁后,英伟达几乎全系列数据中心的卡全部砍了,我们每天问老板,可以卖什么?”无事可做,也让英伟达部分员工,尤其销售和客户服务相关部门产生了巨大的隐忧。部分企业端的销售开始卖起...……更多
更多关于财经的资讯:
调整资产配置策略 理财公司主打抗波动
随着无风险收益率趋势持续下行,仅依靠债券所带来的收益渐渐难以匹配投资者预期,市场急需更具弹性的“固收+”类资产。7月14日
2024-07-15 00:22:00
320万元! 航天新力一项目获省级专项资金支持
贵州航天新力科技有限公司的《航天装备用先进金属材料生产线建设》项目日前成功获批省级专项立项,并获得320万元的专项资金支持
2024-07-15 01:22:00
每平方米每年消耗电量50度以内 烟台最大规模超低能耗建筑社区“科技感”十足
胶东在线7月11日讯(记者 许佳琪 摄影记者 李刚)近几年,随着建筑市场需求大幅减少、劳动力成本上升、技术更新换代,建筑行业的经营压力也日益增大
2024-07-15 04:03:00
湖南邵阳经济技术开发区:创建产业兴、创新强、服务优的“五好”园区
本文转自:人民日报《 人民日报 》( 2024年07月15日 第 13 版)2023年,规模以上工业总产值同比增长9.7%
2024-07-15 05:55:00
全国农担体系着力服务国家重点支农政策目标(财经短波)
本文转自:人民日报《 人民日报 》( 2024年07月15日 第 20 版)本报电 “三夏”是农业生产的关键时期。望着金黄的麦田
2024-07-15 06:00:00
特发集团与国新基金、鲲鹏资本座谈交流
6月26日上午,中国国新基金管理有限公司副董事长戴育四、国新综改(杭州)基金总经理项茹冰、鲲鹏资本总经理张静、副总经理孙学东等一行莅临特发集团座谈交流
2024-07-15 07:02:00
近日,A股半年度业绩预告密集披露。截至7月13日,共有上千家公司预告了上半年“成绩”。华商报大风新闻记者通过Wind数据梳理发现
2024-07-15 07:49:00
上海三大先导产业母基金来了;苏州、张家港多地设立人才基金
本周,上海三大先导产业母基金有了进一步消息,三只基金总规模达890亿,分别对应集成电路、生物医药和人工智能三大重点方向
2024-07-14 15:29:00
中原银行漯河分行工会组织开展2024年职工乒乓球比赛活动
大河网讯 近日,中原银行漯河分行在分行职工之家举办了第三届职工乒乓球比赛,来自分行部门20名选手参加了本次比赛。比赛现场
2024-07-14 11:31:00
寿光张农商村镇银行中标创业担保贴息贷款项目
江南时报讯 近日,在山东省寿光市人社局举办的金融机构创业担保贴息贷款项目竞标中,寿光市27家金融机构积极参与、激烈角逐
2024-07-14 20:07:00
有法院受理保险纠纷案标的总额达20余亿元 !保险公司缘何总成被告?
“三年以来,共受理各类保险纠纷案件1400余件,标的总额达20余亿元。”7月11日,北京商报记者注意到,北京金融法院近日公布了一组保险纠纷案件相关数据
2024-07-14 20:10:00
再扩容!26只个人养老金理财产品“同台竞技”,怎么选?
自2022年11月启动试点至今,个人养老金制度已落地逾一年半之久,产品货架不断丰富,生态体系逐步完善。7月11日,北京商报记者注意到
2024-07-14 21:12:00
出口信用保险扩面加速度,如何为跨境贸易再添底气
扩大出口信用保险覆盖面频被提及。7月14日,北京商报记者了解到,商务部等四部门近日联合印发的《关于加强商务和金融协同更大力度支持跨境贸易和投资高质量发展的意见》(以下简称《意见》)提出
2024-07-14 21:13:00
【概要】国内棉花(14525, -75.00, -0.51%)长势良好,单产或高于去年。由于国内外消费需求低迷,纺织厂开机率降低
2024-07-14 23:42:00
本周佛山地区主流焊镀管市场价格稳中趋弱运行。据兰格钢铁云商平台监测数据显示:目前4寸(3.75mm)镀锌管友发5100元
2024-07-14 23:42:00