• 我的订阅
  • 科技

大模型将成企业“必需品”,服务器如何跟上算力新需求?

类别:科技 发布时间:2023-10-31 21:02:00 来源:钛媒体APP
大模型将成企业“必需品”,服务器如何跟上算力新需求?

数字化的浪潮中,算力无处不在。专为数字化而生的原生算力成为激活企业数据要素潜能、驱动企业创新发展的新动能,是企业数字化转型时期的关键业务核心竞争力。人工智能应用的异军突起使企业在原生算力方面缺口进一步加大。

市场需求旺盛

作为将瓦特转化为比特的关键设备——服务器,在企业对算力和AGI需求愈发强烈的背景下,服务器市场也迎来爆发式增长。Gartner公布2022年最新全球服务器市场数据显示,2022年上半年全球服务器市场增长强劲,出货量为668.9万台,同比增加11.8%,销售额566.5亿美元,同比增加24.1%。2022年上半年服务器市场增长强劲。

与此同时,据预测,到2030年人类将进入YB数据时代,通用算力将增长10倍,人工智能算力将增长500倍。

当前,中国有超过2000万服务器的庞大存量,每年通用服务器采购量约400万-500万台。有机构预测,到2027年,中国数据中心服务器市场总规模接近5000亿元。

从上述数据不难看出,无论是中国,还是放眼全球,在以大模型为代表的新一代应用场景不断涌现的背景下,对算力底层支持的服务器的需求越来越旺盛。

变化正在发生

伴随着服务器市场的火爆增长,用户对服务器的需求旺盛的同时,对产品的要求也有所变化。与此同时,在AGI快速发展的背景下,对整个基础设施层面都带来了新的变化。

新华三集团计算存储产品线副总裁刘宏程表示,AIGC的快速发展,对服务器提出了更高的要求,“在技术趋势与产品方面:AIGC技术的迅速发展给企业的核心业务带来了前所未有的机遇和挑战。无论是金融、医疗,还是在交通、制造等领域,任何业务的中断或系统故障都可能导致严重的后果,但无论上层应用如何变化,仍然需要稳定、可靠的底层IT基础设施支持关键业务系统。”刘宏程指出。

刘宏程对钛媒体表示,在AIGC的浪潮下,企业对异构智能算力的需求将从原先的个位数跃升为超过30%。与此同时,在大模型的应用场景下,对服务器的可扩展性提出了更高的要求,“今天可能访问量是100万,明天就能达到1000万,对扩展性的需求将特别强烈。”刘宏程强调,“虽然这个过程可以通过一些软件层面的提升来满足扩展的需求,但最终的要求还是将会落在服务器本身性能上。”

着实,在企业对异构智能算力需求的暴涨下,服务器行业的变革已经“悄然发生”。

新时代,服务器如何跟上需求?

在行业对服务器的要求越来越高的背景下,服务器将向着“四高”的方向发展,分别是,高性能、高扩展性、高稳定性和高安全性。

以可靠性为例,2021年,国际科技巨头Facebook数据中心服务器宕机,旗下Facebook、Instagram、WhatsApp、Messenger等网站、应用都出现了响应服务器错误,全球35亿用户将近6个小时无法使用这些社交平台。此次宕机让Facebook股票暴跌6%,扎克伯格个人财富一日蒸发近60亿美元。

由此可见,当下,服务器可靠性已经不仅仅是影响企业业务,还将影响了企业的发展,甚至影响着企业的“生死”。

在高性能方面,IBM提出“Cloud in a Box”的概念,IBM亚太区主机及LinuxONE技术总监应康勇曾对钛媒体表示,用户更需要一个像“盒子中的云”的服务器,可以在有限空间内托管数以万计的工作负载,且还能保证彼此相互隔离和交易的服务级别。

与之不同的是,据钛媒体了解,近日HPE在中国正式发布了HPE Compute Scale-up Server 3200服务器,慧与(中国)智能计算与人工智能事业部总经理黄强表示,该款服务器命名中使用的“Scale-up”很好的表达了HPE的观点——纵向拓展将成为服务器性能提升的关键手段,而这种高扩展性与高性能相辅相成的发展理念,也将成为未来服务器行业发展的方向之一。

黄强对钛媒体表示,从HPE用户需求侧看,目前有越来越多的用户追求服务器的极致性能,“云计算刚‘出来’的时候,有很多企业选择业务上云,进行‘横向扩展’。但对于包括金融、电信、医疗等在内的众多对性能和可靠性有着极致要求的用户而言,在技术的发展下,他们反而更多的选择‘纵向扩展’。”黄强指出,“也就是所谓的‘Scale-up’。”

以医疗行业应用场景为例,对于国内医疗行业应用而言,集合了X光片、CT等众多数据的多媒体数据库是现阶段中国医疗行业最广泛的应用场景之一。黄强表示,现阶段,多媒体数据库场景呈现出,对数据分析、图像处理,甚至大模型的应用“时效性”越来越高,如何提升速度、提升性能就成为了行业关注的焦点。“在这块,服务器需要具备整合GPU的能力,使用GPU并发能力进行数据分析,将分析任务拆分成数百个业务单元同时分析,最后将结果汇总,从而提升了该场景对时效性的高要求。”黄强如是说,“而这也是HPE此次推出的3200服务器支持GPU整合能力的关键点之一。”

据钛媒体了解,服务器行业除了上述的发展路径外,近年来还有一些厂商寻找到了一条新的发展路径,比如通过整机柜服务器产品,提升了服务器的密度,在有限的空间内布局更多的服务器,进而满足高密度计算的需求。

整机柜服务器按照模块化设计思路打造的服务器解决方案,系统架构由机柜、网络、供电、服务器节点、集中散热、集中管理6个子系统组成,在同一个机箱里由多台服务器节点共享电源和风扇,这样的设计可以大幅提高电源和散热系统的使用效率,最终使得机体的重量更轻,成本也更低,高密度服务器采用这样的设计可以降低用户的使用成本。

不仅于此,整机柜服务器采用工厂预制的设计,大幅缩短了工期,在“唯快不破”的互联网时代,越早部署投产,越早打通业务,就能帮助用户越早“获利”。

在AI大模型的浪潮下,对服务器也提出了越来越高的要求,未来,服务器市场向着高性能、高扩展性、高稳定性和高安全性方向发展已经成为业内不争的事实。“条条大路通罗马”,服务器市场已呈现出“百舸争鸣”的态势,各家供应商虽然发展路径不尽相同,但最终目标只有一个——满足用户对服务器的高要求。

(本文首发钛媒体,作者 | 张申宇)返回搜狐,查看更多

责任编辑:

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-11-01 00:45:04

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

“AI+硬件”时代大幕已开启 期待下一个“iPhone时刻”到来
...提高以及生活方式的改变,智能手表逐渐成为人们生活的必需品。智能手表的应用场景非常广泛。除了日常使用外,还可用于多种场景,例如运动跟踪、健康管理、旅游出行、社交娱乐等。运动跟踪
2023-06-29 14:00:00
...增速下游PCB又称印刷线路板,是几乎所有电子设备的基础必需品。据Prismark估测,2023年全球PCB产值约为695
2024-05-25 00:24:00
干货解读|从算力、云原生,洞见青云科技新布局
...就会翻倍,比摩尔定律还要快得多。Gartner预测,2025年全球服务器市场规模将超过1320亿美元,其中AI服务器市场规模将达318亿美元
2023-07-03 11:00:00
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
几乎是一夜之间,AI服务器价格在国内市场中飙升。智东西从一位服务器渠道销售人员处得知,搭载英伟达A800 GPU的热门AI服务器型号的价格已达140~150万元/台
2023-10-21 17:43:00
模型即服务,卓世科技MaaS平台 2.0 正式上线
...型部署:将训练好的模型部署到生产环境中,可能包括云服务器、边缘设备或特定硬件上。 2、API集成:提供API接口,使得模型可以被其他应用程序调用,实现模型服务的快速集成。
2024-08-07 09:45:00
生成式AI时代:AI服务器前景广阔,浪潮信息营收大增8成
...而底层所支撑的是算力,包括高性能AI芯片以及高性能AI服务器支撑,为高效AI服务器提供了更广阔的发展空间。其中,浪潮信息作为全球服务器市场重要玩家,受益算力需求,营收也恢复了
2024-06-20 09:33:00
企业模型:中国To B市场的一道曙光
...目之一。Fast5000E是滴普科技与华为昇腾共同发布的一款AI服务器,搭载滴普科技Deepexi,能够为企业落地大模型提供训练与推理算力一体化解决方案
2024-01-02 20:14:00
蚂蚁数科SOFAStack发布全栈AI服务,助力企业用好大模型
...使得有限的GPU资源可以高效的被利用起来,同时大大降低服务器使用成本;在应用层,企业可以根据业务需求快速输出定制化的AI模型,构建服务业务需求的智能体,极大地简化了技术实施过
2024-06-28 18:10:00
专精特新下半场:AI算力驱动竞争力升级|专精时氪直播回顾
...北京华恒盛世科技有限公司副总经理王文星、UCloud优刻得服务器中心及AI算力负责人丁振雷受邀做客36氪“专精时氪”直播间。三位嘉宾结合自身经历及企业实践,分享了对于AI算力
2023-11-30 14:50:00
更多关于科技的资讯:
《视野》杂志启动AI协作创作大赛
中国青年报客户端讯(中青报·中青网记者 马富春)2月13日,《视野》杂志“人类文明备忘录”AI协作创作大赛正式启动。活动以直播+实时互动形式展开
2026-02-14 20:52:00
新春走基层丨76秒,一套汽车零部件焊接就能下线
见习记者 朱荣琛2月12日,农历腊月廿五。春节临近,廊坊经开区道路两旁挂上了大红灯笼,沿街企业的大门已贴上了大对联。热热闹闹的年味儿在这个城市的大街小巷悄然弥漫
2026-02-14 22:12:00
针对春节期间服务需求,中国银行隆尧支行近日聚焦自助服务渠道,启动了专项保障工作。针对县域网点分布广、运维半径长的特点,隆尧支行依托历史运行数据
2026-02-14 22:17:00
领航新质生产力——2025浙江省科学企业家这个专题,是省科协和潮新闻联合举办的,已陆续推出了近二十位具有科技创新精神的浙商企业家
2026-02-14 22:34:00
深圳地铁陪你「返屋企」,跨场景互动刷新通勤与春运体验
近日,深圳地铁迎来了新春限定数字人,结合AI原创音乐与互动体验,走到了春运最前沿。这是深圳地铁数字IP首次以完整的互动形态沉浸式接入城市公共空间
2026-02-14 20:26:00
2月14日消息,2026年“新春招聘月”系列活动将于2月24日(正月初八)在五一广场太原人才大市场(迎泽区零工示范站)正式启幕
2026-02-14 17:37:00
星火空间完成数千万天使+轮融资 核心产品“进化一号”发动机完成首次试车
大皖新闻讯 此前关于合肥要造火箭的消息引发外界广泛关注,背后则是合肥星火空间科技有限公司(以下简称“星火空间”)落户合肥新站高新区
2026-02-14 18:45:00
国医大师李佃贵为2026雄安国际医疗大健康技术应用大赛发声推介。他表示,当下是中西医并重、传统智慧与现代科技深度融合的时代,中医核心思想与大健康领域发展目标高度契合,期待中医药领
2026-02-14 19:13:00
中国科大取得重要突破 首次实现量子李雅普诺夫指数的精确提取
大皖新闻讯 ”这一结果意义重大,为观测混沌的量子世界提供了全新视角。”相关人员如此评价说。2月14日,大皖新闻记者从中国科学技术大学获悉
2026-02-14 17:35:00
鲁网2月14日讯为提升居民网络使用体验,助力智慧社区建设,近日,山东移动临沂分公司装维团队深入多个社区,开展 “移动装维进社区”专项服务活动
2026-02-14 15:10:00
山东移动临沂分公司:智慧装维服务升级,开启家庭网络新体验
鲁网2月14日讯“您好,我是中国移动装维工程师张师傅,现在上门为您检测网络,这是我的工作证件。”周六上午9点,临沂北城新区书香苑小区的王女士刚结束早间会议
2026-02-14 15:11:00
字节跳动发布豆包大模型2.0,主打真实世界复杂任务执行力
在连续发布Seedance 2.0视频模型、Seedream 5.0 Lite图像模型之后,2月14日,字节跳动宣布推出豆包大模型2
2026-02-14 15:35:00
从米兰冬奥会看全球消费趋势:为何“由你”成了2026年的新叙事?
过去十年,全球化品牌的策略多为“We are the best”,强调品牌的权威感。但现在的趋势是“Its your turn”
2026-02-14 16:20:00
千问大免单再加3天,邀请全国人民体验AI买电影票,激活春节AI新消费
2月14日,千问突然宣布免单再加3天,接入大麦、飞猪,邀请全国人民体验AI买电影票、门票等新功能,激活春节AI新消费。从今天下午3点到大年初一
2026-02-14 16:36:00
依据河北省消费者权益保护委员会联合北京阳光消费大数据研究院于2025年8月发布的智能坐便器比较试验结果,九牧送检样品(型号ZD9640-SA-CJM000
2026-02-14 15:10:00