算力增长1000倍！黄仁勋大刀阔斧掀翻AI界

北京时间6月2日晚间，现在的世界第三大公司英伟达首席执行官黄仁勋（Jensen Huang）在COMPUTEX 2024大会开幕前发表了主题演讲。在演讲中，黄仁勋字字句句都展示着英伟达正在乘AI之风扶摇直上。

在计划之中可以得知，英伟达计划每年升级其AI加速器，并且在芯片制作上也是以年为单位更新迭代：

目前世界上最大的Blackwell芯片平台正式投产。这款GPU专为支持新一代人工智能设计，在短短八年内，Blackwell将计算能力、浮点运算及人工智能浮点运算能力增长了1000倍，甚至超过了摩尔定律在最佳时期的增长。同时，黄仁勋还宣布：2025年英伟达将要推出Blackwell Ultra芯片。

此外，他还首次对外公布了下一代CPU架构的名称。下一代CPU名为“Vera”，GPU名为“Rubin”，命名灵感来源于宇宙暗物质研究先驱、美国女天文学家Vera Rubin。甚至还有Rubin Ultra的开发计划，并且这些所有的芯片都具备兼容性。

在硬件方面，黄仁勋表示“加速计算是计算行业的未来”。在Blackwell系列中，Nvidia采用了两片尽可能大的芯片，通过每秒10太字节的高速链接，结合世界上最先进的SerDes（高性能接口或连接技术）将它们紧密连接在一起。并且，这两片这样的芯片放置在一个计算机节点上，并通过Grace CPU进行高效协调。

在GPU的互联方面，Nvidia采用了第五代MV Link技术，它连接多个GPU的轻松连接。此外，Blackwell GPU还配备了第一代可靠性和可用性引擎（Ras系统），这一创新技术能够测试芯片上的每一个晶体管、触发器、内存以及片外内存，确保操作者在现场就能准确判断特定芯片是否达到了平均故障间隔时间（MTBF）的标准。

在耗能的考量上，黄仁勋还表示：“我们正面临计算膨胀”。

Nvidia通过提升计算能力，用于训练GPT-4模型（2万亿参数和8万亿Token）的能量下降了350倍，仅需3吉瓦时，并且可以在10天内完成同等任务。如果使用Pascal进行同样的训练，它将消耗高达1000吉瓦时（1吉瓦时等于1百万千瓦时）的能量。这意味着需要一个吉瓦数据中心来支持，但世界上并不存在这样的数据中心。即便存在，它也需要连续运行一个月的时间。而如果是一个100兆瓦的数据中心，那么训练时间将长达一年。

Nvidia的技术让功耗仅增加三倍而每瓦性能比单独使用CPU提高25倍，可以节省98%的成本和97%的能源需求。“这是CEO的数学，虽然不准确，但确实正确”，买得越多、省得越多的黄氏CEO数学，也再次亮相。

另外，Nvidia 还发布了基于其芯片的服务器计算机的新设计。慧与科技（惠普企业部）和戴尔科技公司等公司正在使用专为企业设计的模块化服务器（MGX平台），这种模组的核心在于将两块Blackwell芯片集成并且采用液体冷却，确保超高效运行，以便更快地将企业和政府机构使用的产品推向市场。

黄仁勋还指出，竞争对手Advanced Micro Devices Inc.和英特尔公司也在利用该设计，将其处理器与 Nvidia 芯片放在一起。

黄仁勋表示，之前发布的产品，例如用于网络的 Spectrum X 和 Nvidia 推理微服务（NIM，黄仁勋称之为“盒子里的人工智能”），现已普遍可用并被广泛采用。 Nvidia还将免费提供 NIM 产品。微服务是一组中间软件和模型，可帮助公司更快地推出人工智能服务，而无需担心底层技术，但是部署这些服务的公司必须向 Nvidia 支付使用费。

黄仁勋睥睨天下的发言也一方面来自于英伟达今年如鱼得水的市场现况。在人工智能的推动下，英伟达的股价一路狂翻了近乎2倍，达到2.7万亿美元，紧逼科技巨头苹果，甚至让大众展开了对于英伟达是否会夺走苹果第二把交椅的猜想。