• 我的订阅
  • 头条热搜
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...能很多人还是低估了。据英伟达电话会议披露,公司全年数据中心里已经有40%的收入来自推理业务,超出了绝大部分人预期。而在这次财报电话会议里,老黄总共提到了16次“推理”这个词提了,而“训练”只有8次。这也侧面证...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...AMD、英特尔竞赛英伟达表示,H200可以部署在各种类型的数据中心,包括本地、云、混合云和边缘,其全球生态系统合作伙伴服务器制造商(如华硕、戴尔、惠普、联想等)可以利用H200更新其现有系统。该公司预计,明年第二季...……更多
...AI芯片Artemis今年正式投产。据了解,新的芯片将被应用于数据中心的推理任务,与英伟达等供应商的GPU一起协同工作。Meta发言人之前表示:我们相信,我们自主开发的加速器将与市面上的GPU相得益彰,为Meta的任务提供最佳的性...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...)。根据人工智能科学家贾扬清分享的数据显示,目前,数据中心每月每千瓦的平均价格约为20美元,这意味着572张Groq LPU加速卡每年的电费为105.8*200*12=25.4万美元。贾扬清还表示,使用4张NVIDIA H100加速卡就可以实现572张Groq LPU一...……更多
...研AI推理芯片Artemis。预计Meta可于年内完成该芯片在自有数据中心的部署,与英伟达GPU协同提供算力。该芯片是Meta去年宣布的内部芯片生产线的第二代产品,有助于减少Meta对占据市场主导地位的英伟达芯片的依赖,并控制运行AI...……更多
英伟达深夜炸场,世界最强AI芯片H200震撼发布,性能飙升90%
...英伟达更是在官方公告中宣布了全新的H200和B100,将过去数据中心芯片两年一更新的速率直接翻倍。以推理1750亿参数的GPT-3为例,今年刚发布的H100是前代A100性能的11倍,明年即将上市的H200相对于H100则有超过60%的提升,而再之后...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...于公司在AI方面的快速进展以及云计算客户的购买承诺,数据中心GPU的收入预计将在第四季度达到4亿美元,2024年将超过20亿美元。这一增长也将使MI300成为AMD历史上销售额最快达到10亿美元的产品。对此,业内对于MI300X的销售额...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...来支持高达10万亿参数的AI模型训练和大语言模型的实时推理。有望在数据处理、工程模拟、电子设计自动化、计算机辅助药物设计、量子计算和生成人工智能等领域实现新的突破。用黄仁勋的原话来说,它就是“当今世界上最...……更多
财报大涨,股价微跌,英伟达放不下中国市场|焦点分析
...588%;公司毛利率为75%,同比提升18.9%。英伟达Q3财报数据数据中心仍是本季度营收占比最高的业务,达到145.1 亿美元,较一年前增长了279%,环比增长 41%。不过,本次财报发布,英伟达在资本市场的反应并不理想,盘后交易还下...……更多
微软难以摆脱英伟达 |焦点分析
...困境摆在微软、谷歌等一众云巨头公司面前,只是瓶颈从数据中心变成了建数据中心的芯片。这种对高性能AI芯片的渴望和需求,随着大模型及生成式AI的发展将越来越强。 微软从2019年便开始自研AI芯片,在此次技术大会上,两...……更多
最强大模型训练芯片H200发布!
...味着什么?来看测试数据。 在HBM3e加持下,H200让Llama-70B推理性能几乎翻倍,运行GPT3-175B也能提高60%。对AI公司来说还有一个好消息:H200与H100完全兼容,意味着将H200添加到已有系统中不需要做任何调整。最强AI芯片只能当半年除...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...的揭幕演讲,介绍微软在ESG、新一代空芯光纤、AzureBoost数据中心等项目的新动态。而整场演讲的重头戏,非AI莫属——尤其是首款自研AI芯片AzureMaia100的亮相,成为场内场外无数聚光灯下的焦点。微软重视AI人所共知,发力自研...……更多
英伟达最强芯片之后,“卖铲子”生意更抢手了
...。这已是英伟达实现连续四个季度的盈利超出市场预期。数据中心,即智能芯片业务是英伟达收入的“火车头”。英伟达第四财季数据中心收入达184亿美元,比第三季度增长27%,同比增长409%;全年收入增长217%,达到创纪录的475...……更多
Meta第二代自研AI芯片正式投产 欲摆脱英伟达依赖
...,以降低对英伟达等供应商的依赖。新的芯片将被应用于数据中心的推理任务,与英伟达等供应商的GPU一起协同工作。此前Meta发言人表示:我们相信,我们自主开发的加速器将与市面上的GPU相得益彰,为Meta的任务提供最佳的性...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...结合了两个B200 GPU和一个独立的Grace CPU,将能够使大模型推理工作负载的性能提升30倍,同时提高效率。相比于H100,它可以“将成本和能源消耗降至1/25”。这就意味着,以前训练一个拥有1.8万亿参数的模型需要8000个Hopper GPU 和15...……更多
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...。图/英伟达 而谷歌自研 TPU 一开始的目的就是用在全球数据中心,不可能不重视多芯片互连技术。事实上,谷歌也没有公布训练 Gemini 使用的 TPU 数目,而是强调动用了不只一个集群,甚至不只一个数据中心。不仅如此,谷歌还...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...的有效技术路径。这些新的变化都为基于RISC-V技术线路做数据中心芯片的希姆计算展现出新的市场机会。 二、系列一体机设备落地,场景私有化本地部署策略解析希姆计算联合国鑫推出的一系列针对大模型推理场景的一体机,...……更多
AI芯片下半场:英伟达不再一家独大
...X220,这是韩国国内首款用于提供高速低功耗AI服务所需的数据中心的芯片。两年后,SK电信将Sapeon业务分拆出来,使其成为总部位于加州的一个独立实体企业,以加速人工智能芯片的商业化。该公司在声明中表示,X330芯片的计算...……更多
ChatGPT一周年|炼制大模型芯片短缺数据有限,何以解忧?
...一些影响,比如美国的AMD,AMD的消费级芯片市占率不错,数据中心的占有率相对较低,如果把消费级的能力在数据中心上延展,应该是有机会的。另一个可能的玩家是谷歌,谷歌的TPU(张量处理器)未来只要愿意走自由化的支持...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...计算密度和效能,AI服务器的散热和功耗管理,以及绿色数据中心的构建也成为设计的重要考虑因素。”新华三于今年6月就推出了面向大模型的AI服务器H3C UniServer R5500 G6,据称相较上一代产品算力提升3倍,对于GPT-4大模型训练场...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...I 工作负载进行了优化,并由MI300X提供支持;Meta公司将在数据中心采用AMD新推的MI300X芯片产品。甲骨文表示,公司将在云服务中采用AMD的新款芯片,预计将在2024年发布。 然而,当前AMD主要面临三个问题:一是AMD产能有限,英伟...……更多
「运气使然」英伟达,压得英特尔喘不过气
...来独立运作并自负盈亏。而在人工智能领域,英特尔面向数据中心的人工智能芯片相比 AMD 尚且缺少竞争力,更遑论是与英伟达一较高下。但英特尔不想再一次错过人工智能时代。今年以来,英特尔就在极力打造「AI PC」的概念...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供支持的摩尔线程KUAE平台。近年在AI热潮之下,国内的智算中心不断兴建。根据此前国家信息中心联合浪潮信息发布的《智能计算中心创新发展指南》统计,目前全...……更多
【产业互联网周报】字节回应被曝秘密利用OpenAI;英特尔预告Gaudi 3将超越H100;阿里云M7蔡英华离职;马斯克回应Grok抄ChatGPT作业
...标。(界面)英特尔预告Gaudi 3将超越H100,发布新一代AI数据中心和PC芯片英特尔宣布推出一系列AI新品,包括面向企业的第五代至强(Xeon)处理器,以及面向个人电脑(PC)的酷睿(Core)Ultra芯片。同时,英特尔CEO基辛格(Pat Gel...……更多
美国政府加速限制,要求英伟达立即停止A800/H800芯片销往中国|硅基世界
...BIS出口许可证。同时从即日起,中国无法再获得英伟达在数据中心方面的任何 AI 算力芯片,包括腾讯、字节跳动等买家赶在禁令生效前抢货的机会被彻底堵死。英伟达在声明中称,基于这些产品在全世界范围内的广泛需求,美...……更多
英伟达推出新一代芯片,“AI+”产业有望加速发展
...ops。而将两个B200与单个Grace CPU相结合的GB200,则可以为LLM推理工作负载提供30倍的性能,同时大大提高效率。比起H100,GB200的成本和能耗降低了25倍。简单说,B200、GB200的运算能力不仅比H100强得多,还比H100降低了成本、耗能。英...……更多
马斯克梦想AI超算霸权,旗下公司却\\\
...芯片等产品正在为生成式人工智能、机器人技术、科研和数据中心项目提供强大的算力支持。最近一个财季,英伟达的收入飙升至221亿美元,增长率高达265%。去年,其销售额甚至超过了业界巨头英特尔。与此同时,马斯克旗下...……更多
AI行情再度席卷而来,机构看好这三个细分赛道丨ETF观察
...全年业绩报告。公司营收及利润率连续三个季度创纪录,数据中心业务提供最大增长动力。美东时间2月23日,英伟达盘中总市值也突破2万亿美元。此外,Sora文生图大模型、谷歌Gemma模型等各类AI大模型产品层出不穷,2024年AI大模...……更多
大模型下沉,汽车需要存算一体芯片|超级观点
... 亿美元。而AMD CEO苏姿丰在发布会上也表示,到2027年,仅数据中心AI加速器市场规模将达4000亿美元。纵观整个AI发展过程,过去算力需求是以倍数增加的,如今算力增加呈指数级别,如果按照这个速度增长,未来大模型对算力的...……更多
夹缝中的英伟达中国 | 深氪lite
...我们冲了一波业绩,但第二波被禁后,英伟达几乎全系列数据中心的卡全部砍了,我们每天问老板,可以卖什么?”无事可做,也让英伟达部分员工,尤其销售和客户服务相关部门产生了巨大的隐忧。部分企业端的销售开始卖起...……更多
更多关于财经的资讯:
新质生产力|黔西南泰龙步步升:南方市场铁合金需求有较大市场潜力
“受国际国内大环境影响,目前南方铁合金企业竞争出现白热化趋势。”已经成立20年的黔西南泰龙(集团)步步升冶炼有限公司主要从事硅锰合金的生产与销售
2024-07-13 00:56:00
新质生产力 | 贵州弘聚:面对行业内卷 要么不做 要做就要做精
近年来,面对钢铁行业的严格发展要求,即严格落实钢铁产能置换,严禁以机械加工、铸造、铁合金等名义新增钢铁产能,严防“地条钢”产能死灰复燃
2024-07-13 00:56:00
管网公司完成遵义至绥阳等三条管道水土保持验收
由贵州天然气管网有限责任公司(以下简称管网公司)牵头,邀请贵州省水利水电勘测设计研究院有限公司、贵州水陆源生态环境咨询有限公司等单位相关专家组成水土保持验收专家组
2024-07-13 00:56:00
黑龙江今年上半年绿电交易量比去年全年增5.3倍
本文转自:人民日报本报哈尔滨7月12日电 (记者方圆)记者从国家电网黑龙江省电力有限公司获悉:2024年上半年,黑龙江电力交易中心已组织省内绿电交易13次
2024-07-13 06:07:00
延续上月走势 CPI同比持平
本报讯(四川日报全媒体记者 史晓露)7月11日,国家统计局四川调查总队发布数据显示,6月份,四川居民消费价格指数(CPI)同比延续上月走势
2024-07-13 06:11:00
圆桌|如何构建更健康的熊猫债发行市场?
如何构建更健康的熊猫债发行市场?7月12日,在新开发银行熊猫债主题研讨会上,多位业界人士对此发表看法。熊猫债是指境外和多边金融机构等在华发行的人民币债券
2024-07-12 23:00:00
苏州高新区设立“新质产业投资基金”,总规模100亿元
本文转自:人民日报客户端7月5日,苏州金合盛控股有限公司联合区苏州高新区内浒墅关先进制造功能片区、太湖科学城功能片区、狮山商务创新功能片区三大功能片区及其他国企
2024-07-12 23:01:00
下周限售股上市数量降至23亿股 中国国航业绩预亏又迎解禁
Wind数据显示,下周7月15日至19日,A股市场将有23.39亿股限售股上市流通,以7月12日收盘价计算,解禁市值约为337
2024-07-12 23:36:00
凯中精密股价上演“蹦极跳” 三家机构席位净卖出4157万元
近段时间,凯中精密(002823)股价经历了一次剧烈波动,被市场形象地描述为“蹦极跳”。此前,受益于中报增长预期超过10倍的消息
2024-07-12 23:36:00
市场信心恢复下关注权重股动向
本周,大盘呈现探底回升的走势,受到利好政策刺激,上证综指结束了此前连续七周的下跌,深证成指周线也止跌收阳。本周,上证综指上涨0
2024-07-12 23:36:00
汇添富双颐债券增聘基金经理於乐其 李超离任
中国经济网北京7月12日讯今日,汇添富基金管理股份有限公司公告称,汇添富双颐债券增聘基金经理於乐其,李超离任。於乐其2014年10月至2015年10月任申银万国证券研究所债券分析师
2024-07-12 16:36:00
房地产板块暴力拉升,房地产ETF基金一度涨近4.5%
7月12日早盘,房地产板块暴力拉升,领涨两市。房地产ETF基金(515060)一度涨近4.5%,现涨超3%。持仓股中,珠江股份
2024-07-12 16:08:00
香港证监会调查:过去5年外资占管理资产总值逾半
中新社香港7月12日电 香港证券及期货事务监察委员会(香港证监会)12日发表的年度调查结果显示,过去5年,非中国内地及香港投资者的资产一直占管理资产总值的54%至56%
2024-07-12 21:36:00
权威专家:中国央行国债买卖定位绝不是要搞量化宽松
中新社北京7月12日电(记者 夏宾)中国央行近日宣布将于近期面向部分一级交易商开展国债借入操作,其卖出国债操作正推进落地
2024-07-12 21:36:00
重磅信号!LPR或迎改进
北京商报讯(记者 刘四红)7月12日,据《金融时报》,贷款市场报价利率(LPR)或迎改进。目前LPR是由20家报价行每月根据其对最优质贷款客户的贷款利率
2024-07-12 22:03:00