• 我的订阅
  • 科技

AI与人争资源怎么破解

类别:科技 发布时间:2024-06-29 09:27:00 来源:环球时报新媒体

AI与人争资源怎么破解

AI与人争资源。本版配图由AI合成

本报记者 马 俊

伴随着人工智能(AI)技术的高速发展,包括OpenAI公司CEO山姆·奥特曼在内的业内人士都开始担心,它将被能源问题“卡脖子”,因为AI当前面临的现实难题之一就是能源和智能的转化效率。被称为“硅谷钢铁侠”的特斯拉CEO马斯克近日也警告称,“AI算力瓶颈是可以预见的”,未来可能没有足够的电力能满足AI对算力的需求。有没有办法缓解AI发展与算力消耗海量资源之间的矛盾?《环球时报》记者就此采访了业内专家。

训练AI为何会消耗海量资源

随着OpenAI公司发布的聊天机器人ChatGPT的爆红,各国都加快了AI大模型的训练,需要的算力也急速增加。马斯克最近在公开采访中表示,现在AI对算力的需求差不多每半年就会增加10倍,AI算力的瓶颈是可以预见的:“一年前,短缺的是芯片。然后下一个短缺的将是电力。当芯片短缺缓解之后,明年可能就会出现电力将不足以运转这些芯片。”

为何训练AI对于电力的消耗如此庞大?这是因为大语言模型的规模实在太大。OpenAI的大语言模型GPT-3拥有1750亿参数,而GPT-4拥有2万亿参数。要训练这种规模的模型,需要在大规模数据集上反复迭代,每次都需要计算和调整其中数百亿乃至数千亿个参数。为完成如此庞大的计算,需要动用由大量服务器组成的数据中心。例如GPT-4完成一次训练需要约3个月,使用约2.5万块英伟达A100图形处理器(GPU)。以每块GPU的功耗400瓦计算,GPT-4一次训练就要耗费2.4亿度电。

据《环球时报》记者了解,数据中心通过网络提供高效的数据计算和存储服务,是承载算力的基础设施。随着传统科学与工程计算对算力的需求持续增长以及人工智能应用对算力需求的急剧上升,预计未来5年内智能算力规模的复合增长率将高达52.3%。据统计,2022年中国数据中心耗电量达2700亿度,占全社会用电量约3%。预计到2025年,全国数据中心用电量占全社会用电量的5%。2030年全国数据中心耗电量接近4000亿度。

除了芯片运算时的耗电量外,数据中心运行时还需要耗费大量淡水用于冷却服务器产生的热能。益企研究院创始人张广彬告诉《环球时报》记者,数据中心消耗的水,主要用于散热(冷却)环节。就是通过水的蒸发,换取数据中心内部温度的降低。美国科罗拉多大学的研究表明,每当ChatGPT回答20-50个问题,就需要消耗500毫升水资源用于冷却计算设备和为数据中心供电的发电厂。OpenAI公司今年年初发布的“文生视频”大模型Sora以惊人的视觉冲击力令全球瞩目,但相关评估认为,为此消耗的算力约是生成文字对话的千倍以上,它在峰值运算时消耗的电力和水资源更是天文数字。

对于AI与人争夺资源的担忧正在快速增加。谷歌发布的2023年环境报告显示,该公司2022年耗水量高达2545万立方米,相当于8500个标准游泳池。到2027年,全球范围内的AI需求可能需要消耗66亿立方米的水资源,几乎相当于美国华盛顿州全年的取水量。美国AI企业的数据中心从科罗拉多河取水计划遭到当地民众的抵制。谷歌在乌拉圭南部建立数据中心、微软在智利建立数据中心等海外项目也引发了当地人的抗议。

降低散热能耗,有多条技术路线

业内常用PUE值作为评价数据中心能源效率的指标,它是数据中心消耗的所有能源与IT设备能耗的比值,PUE值越接近1,说明能效水平越好。传统风冷数据中心PUE值在1.5左右,意味着IT设备自身能耗占比约为六成,以制冷为主的其他能耗约四成。因此降低散热能耗,不但是数据中心最直接的节能方向,还可节省大量用于散热的水资源。

脸书、谷歌等公司纷纷选择在北极圈附近修建大型数据中心,借助低温的自然环境,可节省大量的冷却电力。中国近年推动的“东数西算”战略,在贵州、青海、内蒙古等地修建数据中心,在很大程度上也考虑了这方面的因素。在海底数据中心方面,微软早在2015年就将试验性的数据中心建在苏格兰周边的北海海域水下,但没有大规模推广。

中国海南海底数据中心于2022年12月成功将全球首个海底数据中心核心装备“海底数据舱”放入海底,开启了全球商业海底数据中心运营的先河。业内人士介绍说,“以陆地1万个机柜为例,同等算力的海底数据中心,每年能节省用电总量1.75亿度、节省淡水15万吨。数据舱内恒压恒湿无氧无尘的环境还会让服务器的可靠性大幅提升。”

但这些方案受到自然环境、网络技术等约束较大,而且会让数据中心远离主干网络,影响运维的便捷性。对于常规地面数据中心而言,更可行的方案是将风冷模式转为液冷模式,即用特制液体取代空气作为冷媒为发热部件进行散热,主要包括冷板式“非接触液冷”以及浸没式和喷淋式“接触液冷”技术。

曙光数创股份有限公司董事长任京暘接受《环球时报》记者采访时表示,国家相关部门多次出台有关政策,推动数据中心等设施的节能减排,如明确要求到2025年,全国新建大型、超大型数据中心PUE值降到1.3以下。从曙光实践来看,最先进且成熟度最高的液冷技术是“浸没式相变液冷方案”,能让数据中心PUE值最低降至1.04,这一结果在世界范围来看,是处在第一梯队的。它在完全释放计算设备性能的同时,可极大提高设备稳定性。但最显著的一点还是可极大降低数据中心设备的散热能耗,且不受地域、环境等影响。

张广彬表示,液冷技术是当前数据中心节能的热门方向。他透露,液冷技术还有一个光看PUE值体现不明显的优势。在IT设备能耗中,包括了服务器风扇的用电和电源模块转换的损耗,其中风扇的用电是大头,能占到服务器总用电的10%甚至更多。而浸没式液冷理论上可以完全不用风扇,冷板式液冷的风扇只需要负责20%-30%的散热量。所以采用液冷技术的数据中心PUE值可能没有很明显下降,但实际更省电了。

任京暘还介绍说,在节水方面,曙光最新研发的“液冷节水型室外机”,采用离心雾化等新型散热技术,在西北限水、缺水地区部署,相比传统闭式冷却塔设备可节水70%-80%。该方案通用于风冷、液冷等多模式数据中心,可最大程度支持我国西北缺水地区建设中大型节水数据中心。

超算互联网是未来方向之一

张广彬认为,数据中心基础设施层面节能减排的传统手段,随着PUE值逐渐逼近1,已快趋近极限了。“采用各种节能措施,把供电损耗、制冷开销等环节的浪费控制在很低的水平之后,剩下的就是必需的业务需求了。不能单纯指责数据中心耗能,这应该是信息社会的必需开销。总不能通过削减真实的应用需求,来达到节能的目标。”他认为,未来数据中心节省耗能仍然大有可为,包括对上层软件和应用进行优化,减少不必要的算力使用量。“如果通过优化大模型,让60亿参数的模型能达到原来130亿参数模型的效果,那就可以减少GPU和服务器的使用量,最终降低数据中心层面的用电量”。

技术的进步也能在一定程度上缓解外界对于AI能耗的担忧。英伟达首席执行官黄仁勋6月2日宣布,新一代AI芯片架构在性能提升30倍的同时,能耗只有上一代产品的1/25。美国波士顿大学工程教授科斯昆认为,在AI巨头完成大模型的测试后,AI能耗问题可能就没有那么突出了。届时将确定哪些领域需要复杂模型,哪些领域只要简单模型就够了。“人们开始思考这个问题:‘我是否真的需要用大锤子敲击这个小钉子,也许只用一把螺丝刀就够了?’”

接受《环球时报》采访的专家表示,当前流行的通用大模型训练高度消耗算力,从长远来看,只有少数有条件有基础有能力的机构能持续推进。考虑到技术和经济性,未来更合理的发展方向是针对领域应用问题,基于通用大模型开发领域模型和推理系统。在这方面,美国安腾超级计算机提供了很好的例子。它采用专用超级计算机体系结构用于生物系统的分子动力学模拟,在由专用高速互联网紧耦合连接的分子动力学计算ASIC芯片上执行海量并行计算,所消耗的能源只有同期最快GPU的1/10。

国内方面,今年4月正式上线的国家超算互联网,也有望在减少未来AI训练能耗方面发挥重要作用。国家超算互联网是以互联网思维运营超算中心,依托一体化的算力调度、数据传输、生态协作体系,实现算力供给、软件开发、数据交易、模型服务等产业链相关各方的紧密链接,构建市场化、互联网化、标准化的先进计算服务环境。国家高性能计算机工程技术研究中心副主任曹振南告诉《环球时报》记者,未来国家超算互联网所连接的各个算力中心会扮演不同的角色,“类似医院会分为专科医院和综合医院,未来算力中心可能也会分化为专科算力中心和综合算力中心,其中专注于大模型训练的专科算力中心,所使用的能耗、性价比肯定要超过通用算力中心。”其次,国家超算互联网可优化算力的调度和服务,在提供同样算力情况下,进一步降低能耗。

中国正在推进的“东数西算”战略是考虑到东部电力紧张,西部新能源丰富,在西部合理布局建设数据中心,承接东部的算力需求。曹振南表示,通过超算互联网打造的算力网络在“东数西算”中节省的能源也是相当可观的。▲

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-06-29 12:45:21

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

和ChatGPT聊天竟如此费水?回答50个问题,它要“喝掉”500毫升水
...想方设法节约能源,降低其对环境和资源的消耗。微软:数据中心用掉当地用水总量的6%微软在最新的环境报告中透露,2022年该公司用水量约64亿升,比2021年同期激增了34%,其
2023-09-20 09:44:00
AI应用正面临能耗挑战?分布式算力提供新路径!
...训练还需要强大的算力中心和高效的散热系统。由于许多数据中心全年无休且发热量巨大,大部分的电耗和水耗都用于冷却。如今,全球数据中心市场的耗电量已是10年前的近10倍。近年来,液
2024-10-29 17:30:00
复旦教授吴力波:AI电耗未来五年将翻倍增长,要通过算力绿电双重优化降低能耗
...轮AI热潮会带来更多的能耗。一个典型代表就是,英伟达数据中心GPU出货量在2023年出现了爆发式增长。吴力波展示的数据显示
2024-07-13 13:11:00
训练一次ChatGPT,“折寿”3000辆特斯拉
...的并发计算量,差不多要30万到40万张GPU才够。”某头部数据中心业务负责人推算道。数据显示,ChatGPT的总算力消耗约为3640PF-days
2023-04-17 19:00:00
所谓AI革命,到现在为止,是能源的一场“灾难”
...增?在谷歌发布的环境报告中,其将碳排放量激增归因于数据中心的能源的使用和供应链排放的增加。自互联网诞生以来,数据中心一直是高能耗的代表,而今用于训练人工智能的数据中心更是如此
2024-07-10 11:56:00
ChatGPT日耗电惊人!数据中心节能降碳面临“多重挑战”
...激增,带动电力需求的激增。相关数据显示,十年前全球数据中心市场的耗电量为100亿瓦,而如今1000亿瓦的水平已十分常见
2024-03-11 19:54:00
【坚定信心 实干争先】青海:绿色能源与数字赋能共绘低碳新画卷
...抢抓机遇,全力推进数字化赋能赋效,在原有青海能源大数据中心的基础上,升级打造了国内首个清洁能源和绿色算力调度中心,创新“电力+算力”融合调度模式,形成了具有全国影响力的绿电绿
2025-03-04 19:39:00
为什么人工智能不是免费的?
...愿分享相关信息。训练大模型需要大量的能源,比传统的数据中心活动消耗更多的电力。例如,训练像GPT-3这样的大型语言模型,估计要使用不到1300兆瓦时(MWh)的电力;大约相当
2024-02-22 15:56:00
ChatGPT一周年|炼制大模型芯片短缺数据有限,何以解忧?
...一些影响,比如美国的AMD,AMD的消费级芯片市占率不错,数据中心的占有率相对较低,如果把消费级的能力在数据中心上延展,应该是有机会的。另一个可能的玩家是谷歌,谷歌的TPU(
2023-12-01 09:28:00
更多关于科技的资讯:
京东开启第6届孝老爱老购物节 发放亿元暖阳孝心券、免费送装拆旧
10月27日,在民政部养老服务司、北京市民政局的指导组织下,京东举办第6届孝老爱老购物节暨暖阳行动发布会。在适老消费需求高速增长
2025-10-28 12:01:00
方家铺子亮相深圳礼品展:AI赋能东方滋养,助力“一人一方”落地
摘要:方家铺子亮相深圳礼品展,以AI赋能个性化滋补,展现了东方养生的智能化新趋势。10月23日,为期4天的第33届中国(深圳)国际礼品及家居用品展览会圆满落幕
2025-10-28 12:04:00
京东七鲜京津冀布局再加速!石家庄首店12月裕华万达开业
石家庄的“新鲜”生活要来了!据官方确认,石家庄京东七鲜首店将于12月在裕华万达广场正式开业,为市民带来生鲜购物与生活方式的全新升级
2025-10-28 12:05:00
OPPO携手火山引擎,Find X9 新机里藏了个“AI旅拍创作神器”
近日,OPPO发布了Find X9系列新机,以“画质革命”为核心,全面升级了移动影像能力,致力于打造手机摄影的旗舰新标杆
2025-10-28 12:07:00
第八届世界声博会11月2日在合肥开幕!讯飞星火大模型升级版即将亮相
大皖新闻讯 10月28日,安徽省人民政府新闻办公室召开第八届世界声博会暨2025科大讯飞全球1024开发者节筹备情况新闻发布会
2025-10-28 13:23:00
智推互联:以“开拓求新”破传播边界,用“精进不止”筑服务壁垒
当AI浪潮席卷全球,企业品牌传播正面临前所未有的挑战。某企业市场部负责人看着一组棘手的数据:预算投入持续,但品牌声量始终不温不火
2025-10-28 13:51:00
记者走基层|裸眼3D,让影像“悬浮”在空中
10月27日,河北景优数字仿真科技有限公司,三维视觉设计师正在制作3D片源。河北日报记者 常方圆摄一只蜜蜂翩然“飞”离播放设备
2025-10-28 08:33:00
10月27日,第三届山西省智能制造推进大会在太原举行。在山西省卓越级智能工厂和智能制造优秀供应商授牌仪式上,太钢不锈钢股份有限公司
2025-10-28 07:23:00
从“复活”一只龙鸟到定义一个产业,越疆用具身智能撬动文化科技新生态
当电影《博物馆奇妙夜》中展品“活”过来的奇幻场景照进现实,一场由科技驱动的文旅产业变革正悄然拉开序幕。近日,越疆初息工厂宣布成功打造全球首个超仿生具身智能体——以多模态具身智能技术“复活”的中华龙鸟
2025-10-28 07:48:00
近400名人才角逐南京市“双创项目”人才“赛马”金陵城,创新与产业双向奔赴□南京日报/紫金山新闻记者 张安琪10月26日
2025-10-28 07:50:00
中国消费者协会与中国物品编码中心合作,于近日在“全国消协智慧315”小程序上线“消协帮您找,扫码辨商品”新功能。该功能依托编码中心国家商品数据库的权威信息
2025-10-28 07:58:00
近日,大金科工(天津)车业有限公司(以下简称“大金科工”)开业仪式在武清开发区举行。大金科工由大行科工(深圳)股份有限公司与金轮集团共同注资成立
2025-10-27 14:11:00
电竞赛事下沉 重构经济文化新生态
第十二届王者荣耀全国大赛举办颁奖礼第十二届王者荣耀全国大赛总决赛落地天津五大道民园广场无畏契约嘉年华 前王者荣耀职业联赛选手刺痛(右)与粉丝合影无畏契约瓦友社迎新季线下活动和平精英村镇赛广东清远站
2025-10-27 14:11:00
据IDC数据显示,2025年中国GEO市场规模突破200亿元,年复合增长率高达67%,超过78%的企业已将GEO纳入品牌增长与智能营销的核心战略
2025-10-27 14:20:00
中国品牌出海:从产品制造向品牌价值跃升
“不出海,就出局。”这句话听起来很极端,但折射出中国制造业在全球化时代的现实处境。今天,中国企业出海,已不再是讨生活般的生存选择
2025-10-27 14:23:00