算力离不开网络｜硬氪·硬科技黄金时代大会

12月26日，36氪·硬氪在深圳前海召开了硬科技黄金时代大会。大会邀请了硬科技大量一线投资机构、科技公司、专家学者，共设立14个主题演讲、2个圆桌。主题涉及半导体投资、新材料投资、人民币投资、专精特新成长等多个热门赛道。

当日，云豹智能创始人兼CEO萧启阳进行了关于DPU的主题分享，以下为演讲内容：

云豹智能创始人兼CEO萧启阳

大家好！我是云豹智能的创始人CEO萧启阳，感谢大会的邀请，让我今天有这个机会在这里演讲。15分钟时间，就不谈太多技术细节。

在座很多人不太了解DPU，这是业界公认的未来三大算力芯片之一，我简单介绍下为什么DPU在新的算力时代这么重要。

不知道大家是否认识芯片业界最有名的黄仁勋，英伟达GPU市值超1万亿，黄仁勋在30年前建立这家公司。今年大家都听过ChatGPT，人工智能的热潮从0到1，是去年年底开始，黄仁勋今年5月份就说“我们已经到达了一个新的计算时代的临界点”。

我今天要讲的另一个重点是：我们也是一个新的网络时代。

因为需要新的网络，才能够支持新的算力。我经常跟很多领导说，过去三十年我国经济的快速发展很大程度依赖于有效地利用低人力成本，而未来的经济发展全是数字经济。数字经济发展会依赖于极低的算力成本，或非常有效率地利用算力成本。因此提升算力效率，降低算力成本的DPU成为新算力时代的基础底座。我们现在讲的是算法跟网络之间重要的关系。

下面讲一些数据，最近一波人工智能崛起是在2016年，人工智能在围棋上赢了世界冠军。当时人工智能局限于一些领域，应用很窄。而最近这一波人工智能的大爆发，解决了人跟机器方面的沟通问题，以后每一个人都有自己的APP，不用会写代码，讲出来，手机跟电脑都听得懂你的语言，而且可以帮你生成你自己的APP。所以，以后的内容爆发性不是100倍、1000倍，而是无穷无尽，过万亿级的爆发。

就参数而言，在人工智能训练方面，2018年到2023年，GPT4参数增加了1万倍。去年年底，ChatGPT来到真正的临界点，所用的是1千多参数，即训练一次模型花费460万美元，今年年初，每次训练都需花费1亿美元，耗掉美国6千个家庭一年的用电量。现在很多专家考虑在数据中心旁边建一个核电站来支持电量，但这不可持续，这也属于算力成本，所计算出来的东西是革命性的，会颠覆很多行业。今后5年会有很多行业消失，被人工智能替代。有咨询公司认为人工智能每年大约产生4万亿美元的GDP，超过英国的GDP，但我觉得这是低估了。

还有预测认为，2027年花在人工智能算力的成本将跟通用算力持平，每年接近2千亿美元，这就是算力芯片，包括DPU面对的市场。

另外一家也做GPU的公司AMD，现在花费的算力成本中，有一半是花在通讯上。原因在于每训练一个大模型需要几千台服务器，大部分数据与时间是花在服务器跟服务器之间的沟通。大模型计算10万亿参数的时候，75%的时间都花在通讯上，这就是我们公司云豹智能提供的DPU解决的关键问题。

在没有人工智能之前，也就是去年，我们的网络带宽时延是1毫秒左右，而且可以容许调包。到今年，所有的数据流网络都被AI数据塞满。并且对AI来说，这个带宽很大，网络时延需要缩短20倍以上，且不容许调包，这需要重塑整个网络架构去支持人工智能的算力。

新网络具有许多特性，包括不容许数据调包、多路径等，这些都是整个网络未来5-10年的发展方向，也是我们的产品需要解决的问题。

如果去到阿里、腾讯、微软、亚马逊，会发现一个典型的服务器上面有2片CPU。目前英伟达最高端的卡卖3万块美金，一台服务器200多万人民币，训练成本非常大。

我们做的话，每一个GPU会连接几千个GPU卡，每一个GPU都有一个网卡，所以每一台服务器需要10片云豹芯片。而且在国内，只有云豹能做到这么高性能的芯片，是唯一的国产芯片。

DPU这个概念，是英伟达推广的，它最近推出了一个2千多万美元一台的AI系统。其中最关键的是，在GPU、CPU之后，就到了DPU的发展。

总结一下，最重要的一点，算力离不开网络。因为现在的算力以千台服务器开始，由网络连接，网络直接影响到你的算力成本，这就是两个最关键的信息。

分享一条阿拉玛定律：对一门新科技，我们经常会高估它的短期收益，却往往低估它带来的长期效应。互联网也是，手机也是，AI也一定会是。你说是不是泡沫，当然是新的泡沫，新科技的发展全靠泡沫，全靠资本推广，10年之后的AI跟现在相比，将是翻天覆地的变化。

比如智能手机的出现，影响了我们今天的行为，如果没有手机，很难想象国内现在会不需要钱包，手机才是最重要的，以后AI对我们的影响也将是巨大的，所以我们今天是正处在新AI时代的开始，谢谢大家！