• 我的订阅
  • 头条热搜
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...求主要分为训练与推理两大阶段,训练可以理解为打磨大模型智能水平的过程,而推理则是在大模型应用过程中计算的过程。对于这两者的算力需求,一些机构提出了各自的估算方式,它们可以用一个公式来简单概况:每参数每...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...最先进的H100的带宽和容量分别为3.35TB和80GB。这将提升大模型在推理方面的表现,并有助于提升高性能计算应用的计算能力。英伟达预计,H200将在明年二季度开始发货,谷歌、微软、甲骨文等科技巨头将会率先实现首批部署。但...……更多
OpenAI计划研发自己的AI芯片,已有收购目标
...司首款专为人工智能设计的芯片。随着 ChatGPT 等大型语言模型(LLM)掀起新一轮 AI 变革浪潮,AI 芯片短缺问题日益严重。知情人士称,至少从去年开始,OpenAI 就讨论了各种方案来解决其所依赖的 AI 芯片的短缺问题,目前已经评...……更多
微软,用最开放的云,玩最野的AI
...一口气公布了 100 多项以AI为中心,在云计算基础设施、 模型即服务 MaaS 、数据平台、Copilot 人工智能助手等方方面面的新产品和新功能。萨提亚展示 Azure Cobalt CPU 芯片|Microsoft其中,既有 Azure Cobalt、Azure Maia 这样专门为 A……更多
芯片集群「贵」出天际,10年内单个集群价值将达万亿美元
...接赋予正确的权重。这些权重以矩阵的形式存储,而训练模型则需要使用数学方法对这些矩阵进行操作。单层神经网络的本质是矩阵相乘,两个按行和列排列的数字矩阵集合被用来生成第三个这样的集合,第三个集合中的每个数...……更多
AI“卖铲人”英伟达,为何业绩再爆发?
...智能在2023迎来爆发,生成式AI以ChatGPT为代表掀起全球大模型浪潮,全球各行业的算力需求激增。英伟达GPU作为主流AI训练解决方案使其成为最大受益者,实现量价双收。英伟达财报也揭示了未来发展战略的三大方向:一是以数据...……更多
硅谷大模型“价格战”上演,一味“卷”价格会有未来吗?
5月以来,国内大模型打响了“价格战”。从每百万个Token只要1块钱,到只要8毛钱、5毛钱……国内大厂如字节跳动、百度、智谱AI、科大讯飞等不断接力,有厂商甚至直接打出了“免费”的口号,震惊整个科技圈子。实际上,硅...……更多
系统级玩家微软、苹果先后出牌,端侧大模型路径清晰了?
落地端侧被认为是大模型走向普及的关键。个人PC和智能手机是当前受众最为广泛的两大终端品类。2023年下半年以来,全球范围内各大PC、手机厂商纷纷通过硬件扩容,尝试将大模型在物理意义上融入终端。直到近期,大模型融...……更多
凌晨突发!黄仁勋,重大宣布!华尔街沸腾
...”。 据介绍,Blackwell平台能够在万亿参数级的大型语言模型(LLM)上构建和运行实时生成式AI,而成本和能耗比前身低25倍。黄仁勋现场展示Grace-Blackwell系统(两个Blackwell GPU、四个die与一个Grace Cpu连接在一起)。GB200将两个B200 B.……更多
联合垄断AI行业?美监管机构对英伟达、微软、OpenAI发起反垄断调查
...元,苹果以56亿美元微弱优势夺回第二位置。可以说,大模型训练和推理等技术进步高度依赖英伟达的芯片,但在供不应求的市场情况下,越来越引发业内对其如何销售芯片,以及是否能通过软件远程锁定芯片的安全担忧。实际...……更多
四月AI芯片三连发,英伟达:无惧竞争!
...款产品中,Intel新一代Gaudi3与NVIDIAH100展开直接竞争。在AI模型算力中,Gaudi3AI芯片的模型训练速度、推理速度都更出色,分别提升了40%和50%,平均性能提升达到了50%,能效更是提高了40%。更重要的是,Gaudi3AI芯片的成本比H100更低...……更多
...50亿个晶体管,基于台积电5纳米工艺打造,并专为大语言模型设计。而AzureCobalt100则是一款基于Arm架构的128核CPU,适用于执行常规计算任务,如为微软Teams提供动力。微软解释称,Maia将为生成式人工智能工作负载运行基于云的训...……更多
与英伟达正面交锋!AMD“终极武器”今夜来袭
...00有足够的竞争力。据AMD今年6月公布的数据,专为大语言模型优化的产品MI300X,其内存达到了192GB,内存带宽为5.2TB/s,InfinityFabric带宽为896GB/s,晶体管达到1530亿个。另外,MI300X提供的HBM(高带宽内存)密度是英伟达H100的2.4倍,H...……更多
【产业互联网周报】字节回应被曝秘密利用OpenAI;英特尔预告Gaudi 3将超越H100;阿里云M7蔡英华离职;马斯克回应Grok抄ChatGPT作业
...理。国内新闻字节跳动被曝秘密利用OpenAI技术打造自家大模型,字节跳动回应OpenAI封禁账户:正与OpenAI联系沟通据外媒报道,字节跳动一直在秘密使用OpenAI的技术开发自家大语言模型。在人工智能领域,这一做法通常被视为一种...……更多
亚马逊云科技,如何用AI再赢一次
...施)市场份额为39.0%,位居全球首位。十年后的今天,大模型是新的技术浪潮。“AI转型”替代“云转型”成了IT产业的新趋势。每一次IT技术变革,关键窗口期只有两三年。巨人倒下时,身上还是暖的。如果不能及时跟进,很快...……更多
16家头部大模型公司上海神秘碰头,现场人挤人人人
挤爆了,简直要被大模型公司们给挤爆了。来感受一下这个feel:毫不夸张地说,国内外叫得上来的大模型公司基本上都来了——Anthropic、Meta、Mistral.AI、Stability.ai、月之暗面、智谱AI、百川、MiniMax……到底是什么样的事情能让...……更多
英伟达深夜炸场,世界最强AI芯片H200震撼发布,性能飙升90%
...两款芯片还是互相兼容的。这意味着,使用H100训练/推理模型的企业,可以无缝更换成最新的H200。全世界的AI公司都陷入算力荒,英伟达的GPU已经千金难求。英伟达此前也表示,两年一发布的架构节奏将转变为一年一发布。 就...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...用计算机开始,伴随着Windows 95、加速计算乃至深度学习模型AlexNet的出现,再到2016年,黄仁勋亲手将第一台DGX-1超级计算机送给了OpenAI。而在2022年,随着聊天机器人ChatGPT横空出世,生成式AI带来了全新一轮产业革命。黄仁勋手绘...……更多
为摆脱对NVIDIA的依赖,微软自研AI芯片及高速网卡
...时间,如能成功研发,有望减少OpenAI在微软AI服务器训练模型的所需时间,降低训练流程所产生的成本。微软已向 ChatGPT开发商OpenAI 投资了数十亿美元,并将其技术融入到各种产品中,使这家 Windows 制造商在销售人工智能软件的...……更多
AI将爆发哪些超级应用?
...助办公、作图、视频生成、教育等领域潜力巨大。基于大模型进行定制化扩展升级,将“超能力”带给各行各业。第三类是AI消费电子,如AI PC、AI 手机、XR设备和脑机接口技术,对传统设备进行AI升级,或在新技术上开发新的需...……更多
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
...押注人工智能领域最大的赌注——一种只能运行Transformer模型的芯片,但其运行速度比GPU快几个数量级。也许注意力确实是你所需要的全部...」 Pika研究人员表示,每秒50万token简直太疯狂了。你可以在2秒内写出「圣经」,或者...……更多
微软推出首款自制AI芯片,发布自定义AI助手平台
...于推出了自家定制的人工智能芯片,可用于训练大型语言模型,并有可能避免对英伟达芯片代价昂贵的依赖。该公司还为云工作负载构建了自己的基于Arm架构的CPU。当地时间11月15日,微软在西雅图举行的Ignite开发者大会上宣布...……更多
英伟达h100gpu交货周期大幅缩短
...对AI芯片的需求仍然超过供给,尤其是一些训练大型语言模型(LLM)的公司,例如OpenAI。云服务提供商(CSP)例如亚马逊AWS提供按需租用H100GPU的服务,缓解了部分需求压力,缩短了等待时间。然而,由于训练大型语言模型需要成千...……更多
Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖
...I训练所优化的,而是专注于推理,即在生产过程中运行AI模型的任务。Meta在博客文章中写道,MTIA是公司“长期计划的重要组成部分”,旨在Meta的服务中使用AI来构建基础设施:“为了实现我们对定制芯片的雄心,这意味着不仅...……更多
谷歌宣布推出Gemini,规模最大功能最强;AMD 正式发布MI300加速器;Altman当选《时代》年度CEO
...,谷歌宣布推出其认为规模最大、功能最强大的人工智能模型 Gemini。根据谷歌给出的基准测试结果,Gemini 在许多测试中都表现出了「最先进的性能」,甚至在大部分基准测试中完全击败了 OpenAI 的 GPT-4。谷歌针对不同场景发布...……更多
...心、最火热的AI技术是深度学习,通过海量的训练数据对模型进行不断调整,最终形成可以对未知数据作出准确推理的能力。特斯拉2022年年报显示,FSD所实现的递延收入部分的毛利率已达到90%。但即便如此,拥有领先自动驾驶技...……更多
英伟达宣布更新tensorrt-llm
...atAPI支持,并增强DirectML功能,改善Llama2和StableDiffusion等AI模型的性能。TensorRT-LLM可以通过英伟达的AIWorkbench在本地完成,开发者可以使用这个统一、易用的工具包,在PC或工作站上快速创建、测试和定制预训练的生成式AI模型和LLM...……更多
英伟达宣布rtx系列显卡支持微软copilot+计划
...玩家指令,并结合游戏画面中的信息,通过人工智能视觉模型进行分析处理。这些模型可以增强大型语言模型(LLM)的情境感知和特定应用程序理解能力,并结合游戏知识数据库,生成针对性的文本或语音回复。发布会上,英伟达...……更多
微软:从“软件老大”到“AI帝国”
从2009开始开发AI模型,到2019年投资OpenAI,微软正在一步一步成为AI时代的庞然大物。对于微软及其生态系统而言,今年的Ignite技术大会堪称异彩纷呈。微软一口气公布了100多项以 AI 为中心,在云计算基础设施、 模型即服务 MaaS ...……更多
全球AI大事记·疯狂三月盘点:9万亿AIGC时代即将到来|钛媒体AGI
刚刚过去的2024年3月,OpenAI最强人工智能(AI)大模型GPT-4发布了一周年,对于生成式 AI 的热度只增不减。过去一个月内,OpenAI、谷歌、微软、英伟达、阿里等多家国内外大科技公司均发布多个关于 AI 的重要消息,动作不断,全...……更多
更多关于财经的资讯:
中信保诚人寿保险宁波分公司因财务业务数据不真实被罚款15万元
12月1日,国家金融监督管理总局宁波监管局行政处罚信息公开表显示,中信保诚人寿保险有限公司宁波分公司及相关责任人因财务业务数据不真实被罚款15万元。责任人钱某磊被警告并罚款2万元
2025-12-02 12:47:00
富德生命人寿山西分公司因虚构中介业务套取费用被罚26万元,三名责任人同步领罚
12月2日,国家金融监督管理总局山西监管局行政处罚信息公开表显示,富德生命人寿保险股份有限公司山西分公司因财务业务数据不真实
2025-12-02 12:48:00
吴鹏丽获批担任卫辉富民村镇银行董事
12月2日,国家金融监督管理总局新乡监管分局发布关于吴鹏丽卫辉富民村镇银行股份有限公司董事任职资格的批复,核准吴鹏丽卫辉富民村镇银行股份有限公司董事的任职资格。
2025-12-02 12:50:00
张小燕获批担任工商银行长治分行行长助理
12月2日,国家金融监督管理总局长治监管分局发布关于张小燕中国工商银行长治分行行长助理任职资格的批复,核准张小燕中国工商银行长治分行行长助理的任职资格。
2025-12-02 12:51:00
宋培进获批担任工商银行长治分行副行长
12月2日,国家金融监督管理总局长治监管分局发布关于宋培进中国工商银行长治分行副行长任职资格的批复,核准宋培进中国工商银行长治分行副行长的任职资格。
2025-12-02 12:51:00
赵子超获批担任浦发银行晋城分行副行长
12月2日,国家金融监督管理总局晋城监管分局发布关于赵子超上海浦东发展银行晋城分行副行长任职资格的批复,核准赵子超上海浦东发展银行晋城分行副行长的任职资格。
2025-12-02 12:52:00
德州银行:逐“绿”而行 催生发展新活力
在国家生态优先、绿色发展战略引领下,德州银行不断完善制度体系,加强服务创新,为区域经济绿色转型注入强劲的金融动能。截至10月末
2025-12-02 13:15:00
灵光 “一闪”,330万个“闪应用”已创建
凭借“30秒生应用”上线即火爆后,12月2日,通用AI助手“灵光”宣布,灵光App上线两周来,用户已成功创建出330万个“闪应用”
2025-12-02 13:15:00
浙江国资、工商银行等新设工融结构调整股权投资企业,出资额30亿
近日,浙江产投工融结构调整股权投资合伙企业(有限合伙)成立,出资额30亿元,经营范围包含:股权投资;以自有资金从事投资活动
2025-12-02 13:36:00
菲林格尔等新设存储科技公司,含集成电路芯片业务
近日,忆安存储科技(浙江)有限公司成立,注册资本1000万元,经营范围包含:集成电路制造;集成电路芯片设计及服务;集成电路芯片及产品销售等。企查查股权穿透显示,该公司由菲林格尔(
2025-12-02 13:48:00
蚂蚁集团联合AlipayHK捐赠1000万港元 紧急支援香港大埔火灾救援
11月27日,香港大埔宏福苑发生五级火灾,灾情严峻,令人揪心。蚂蚁集团和在港企业AlipayHK首批捐赠1000万港元
2025-12-01 15:29:00
金融保险业迅速行动 多措并举支援大埔火灾受灾民众
11月26日香港大埔宏福苑发生严重火灾后,本地多家银行与保险机构迅速启动重大突发事件应急机制,推出一系列紧急金融服务与理赔支持措施
2025-12-01 15:34:00
金融有爱 服务无碍 赫章农商银行平山支行暖心守护残障群众
当金融服务邂逅特殊需求,多一份贴心援助,便少一分通行障碍;多一句细致引导,便增一份安心信赖。近日,一名开着小电动车的残疾女士在厅堂安保的协助下来到赫章农商银行平山支行
2025-12-01 15:35:00
赫章农商银行水塘堡支行:高效助力客户追回不明扣款,悉心守护资金安全
客户资金安全至关重要,贴心服务暖人心。2025年11月24日,赫章农商银行水塘堡支行工作人员以专业且细致的服务,成功协助客户陆某追回被不明扣除的资金5000余元
2025-12-01 15:36:00
筑牢合规防线,引领稳健前行——贵定农商银行持续深化“高管讲合规”活动
合规是金融行业的生命线,更是银行实现高质量发展的根本保障。为深入贯彻落实国家监管要求,厚植合规文化土壤,筑牢合规经营理念
2025-12-01 15:36:00