• 我的订阅
  • 科技

大模型将成企业“必需品”,服务器如何跟上算力新需求?

类别:科技 发布时间:2023-10-31 21:02:00 来源:钛媒体APP
大模型将成企业“必需品”,服务器如何跟上算力新需求?

数字化的浪潮中,算力无处不在。专为数字化而生的原生算力成为激活企业数据要素潜能、驱动企业创新发展的新动能,是企业数字化转型时期的关键业务核心竞争力。人工智能应用的异军突起使企业在原生算力方面缺口进一步加大。

市场需求旺盛

作为将瓦特转化为比特的关键设备——服务器,在企业对算力和AGI需求愈发强烈的背景下,服务器市场也迎来爆发式增长。Gartner公布2022年最新全球服务器市场数据显示,2022年上半年全球服务器市场增长强劲,出货量为668.9万台,同比增加11.8%,销售额566.5亿美元,同比增加24.1%。2022年上半年服务器市场增长强劲。

与此同时,据预测,到2030年人类将进入YB数据时代,通用算力将增长10倍,人工智能算力将增长500倍。

当前,中国有超过2000万服务器的庞大存量,每年通用服务器采购量约400万-500万台。有机构预测,到2027年,中国数据中心服务器市场总规模接近5000亿元。

从上述数据不难看出,无论是中国,还是放眼全球,在以大模型为代表的新一代应用场景不断涌现的背景下,对算力底层支持的服务器的需求越来越旺盛。

变化正在发生

伴随着服务器市场的火爆增长,用户对服务器的需求旺盛的同时,对产品的要求也有所变化。与此同时,在AGI快速发展的背景下,对整个基础设施层面都带来了新的变化。

新华三集团计算存储产品线副总裁刘宏程表示,AIGC的快速发展,对服务器提出了更高的要求,“在技术趋势与产品方面:AIGC技术的迅速发展给企业的核心业务带来了前所未有的机遇和挑战。无论是金融、医疗,还是在交通、制造等领域,任何业务的中断或系统故障都可能导致严重的后果,但无论上层应用如何变化,仍然需要稳定、可靠的底层IT基础设施支持关键业务系统。”刘宏程指出。

刘宏程对钛媒体表示,在AIGC的浪潮下,企业对异构智能算力的需求将从原先的个位数跃升为超过30%。与此同时,在大模型的应用场景下,对服务器的可扩展性提出了更高的要求,“今天可能访问量是100万,明天就能达到1000万,对扩展性的需求将特别强烈。”刘宏程强调,“虽然这个过程可以通过一些软件层面的提升来满足扩展的需求,但最终的要求还是将会落在服务器本身性能上。”

着实,在企业对异构智能算力需求的暴涨下,服务器行业的变革已经“悄然发生”。

新时代,服务器如何跟上需求?

在行业对服务器的要求越来越高的背景下,服务器将向着“四高”的方向发展,分别是,高性能、高扩展性、高稳定性和高安全性。

以可靠性为例,2021年,国际科技巨头Facebook数据中心服务器宕机,旗下Facebook、Instagram、WhatsApp、Messenger等网站、应用都出现了响应服务器错误,全球35亿用户将近6个小时无法使用这些社交平台。此次宕机让Facebook股票暴跌6%,扎克伯格个人财富一日蒸发近60亿美元。

由此可见,当下,服务器可靠性已经不仅仅是影响企业业务,还将影响了企业的发展,甚至影响着企业的“生死”。

在高性能方面,IBM提出“Cloud in a Box”的概念,IBM亚太区主机及LinuxONE技术总监应康勇曾对钛媒体表示,用户更需要一个像“盒子中的云”的服务器,可以在有限空间内托管数以万计的工作负载,且还能保证彼此相互隔离和交易的服务级别。

与之不同的是,据钛媒体了解,近日HPE在中国正式发布了HPE Compute Scale-up Server 3200服务器,慧与(中国)智能计算与人工智能事业部总经理黄强表示,该款服务器命名中使用的“Scale-up”很好的表达了HPE的观点——纵向拓展将成为服务器性能提升的关键手段,而这种高扩展性与高性能相辅相成的发展理念,也将成为未来服务器行业发展的方向之一。

黄强对钛媒体表示,从HPE用户需求侧看,目前有越来越多的用户追求服务器的极致性能,“云计算刚‘出来’的时候,有很多企业选择业务上云,进行‘横向扩展’。但对于包括金融、电信、医疗等在内的众多对性能和可靠性有着极致要求的用户而言,在技术的发展下,他们反而更多的选择‘纵向扩展’。”黄强指出,“也就是所谓的‘Scale-up’。”

以医疗行业应用场景为例,对于国内医疗行业应用而言,集合了X光片、CT等众多数据的多媒体数据库是现阶段中国医疗行业最广泛的应用场景之一。黄强表示,现阶段,多媒体数据库场景呈现出,对数据分析、图像处理,甚至大模型的应用“时效性”越来越高,如何提升速度、提升性能就成为了行业关注的焦点。“在这块,服务器需要具备整合GPU的能力,使用GPU并发能力进行数据分析,将分析任务拆分成数百个业务单元同时分析,最后将结果汇总,从而提升了该场景对时效性的高要求。”黄强如是说,“而这也是HPE此次推出的3200服务器支持GPU整合能力的关键点之一。”

据钛媒体了解,服务器行业除了上述的发展路径外,近年来还有一些厂商寻找到了一条新的发展路径,比如通过整机柜服务器产品,提升了服务器的密度,在有限的空间内布局更多的服务器,进而满足高密度计算的需求。

整机柜服务器按照模块化设计思路打造的服务器解决方案,系统架构由机柜、网络、供电、服务器节点、集中散热、集中管理6个子系统组成,在同一个机箱里由多台服务器节点共享电源和风扇,这样的设计可以大幅提高电源和散热系统的使用效率,最终使得机体的重量更轻,成本也更低,高密度服务器采用这样的设计可以降低用户的使用成本。

不仅于此,整机柜服务器采用工厂预制的设计,大幅缩短了工期,在“唯快不破”的互联网时代,越早部署投产,越早打通业务,就能帮助用户越早“获利”。

在AI大模型的浪潮下,对服务器也提出了越来越高的要求,未来,服务器市场向着高性能、高扩展性、高稳定性和高安全性方向发展已经成为业内不争的事实。“条条大路通罗马”,服务器市场已呈现出“百舸争鸣”的态势,各家供应商虽然发展路径不尽相同,但最终目标只有一个——满足用户对服务器的高要求。

(本文首发钛媒体,作者 | 张申宇)返回搜狐,查看更多

责任编辑:

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-11-01 00:45:04

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

“AI+硬件”时代大幕已开启 期待下一个“iPhone时刻”到来
...提高以及生活方式的改变,智能手表逐渐成为人们生活的必需品。智能手表的应用场景非常广泛。除了日常使用外,还可用于多种场景,例如运动跟踪、健康管理、旅游出行、社交娱乐等。运动跟踪
2023-06-29 14:00:00
...增速下游PCB又称印刷线路板,是几乎所有电子设备的基础必需品。据Prismark估测,2023年全球PCB产值约为695
2024-05-25 00:24:00
干货解读|从算力、云原生,洞见青云科技新布局
...就会翻倍,比摩尔定律还要快得多。Gartner预测,2025年全球服务器市场规模将超过1320亿美元,其中AI服务器市场规模将达318亿美元
2023-07-03 11:00:00
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
几乎是一夜之间,AI服务器价格在国内市场中飙升。智东西从一位服务器渠道销售人员处得知,搭载英伟达A800 GPU的热门AI服务器型号的价格已达140~150万元/台
2023-10-21 17:43:00
模型即服务,卓世科技MaaS平台 2.0 正式上线
...型部署:将训练好的模型部署到生产环境中,可能包括云服务器、边缘设备或特定硬件上。 2、API集成:提供API接口,使得模型可以被其他应用程序调用,实现模型服务的快速集成。
2024-08-07 09:45:00
生成式AI时代:AI服务器前景广阔,浪潮信息营收大增8成
...而底层所支撑的是算力,包括高性能AI芯片以及高性能AI服务器支撑,为高效AI服务器提供了更广阔的发展空间。其中,浪潮信息作为全球服务器市场重要玩家,受益算力需求,营收也恢复了
2024-06-20 09:33:00
企业模型:中国To B市场的一道曙光
...目之一。Fast5000E是滴普科技与华为昇腾共同发布的一款AI服务器,搭载滴普科技Deepexi,能够为企业落地大模型提供训练与推理算力一体化解决方案
2024-01-02 20:14:00
蚂蚁数科SOFAStack发布全栈AI服务,助力企业用好大模型
...使得有限的GPU资源可以高效的被利用起来,同时大大降低服务器使用成本;在应用层,企业可以根据业务需求快速输出定制化的AI模型,构建服务业务需求的智能体,极大地简化了技术实施过
2024-06-28 18:10:00
专精特新下半场:AI算力驱动竞争力升级|专精时氪直播回顾
...北京华恒盛世科技有限公司副总经理王文星、UCloud优刻得服务器中心及AI算力负责人丁振雷受邀做客36氪“专精时氪”直播间。三位嘉宾结合自身经历及企业实践,分享了对于AI算力
2023-11-30 14:50:00
更多关于科技的资讯: