• 我的订阅
  • 科技

ibm开发新光学技术,能以光速训练ai模型大幅节省能源

类别:科技 发布时间:2024-12-12 04:25:00 来源:浅语科技

12月11日消息,IBM宣布开发出一种新的光学技术,能够以光速训练AI模型,同时大幅节省能源。该公司表示,通过将这项突破应用于数据中心,训练一个AI模型所节省的能源相当于5000个美国家庭一年的能源消耗。

ibm开发新光学技术,能以光速训练ai模型大幅节省能源

该公司解释说,虽然数据中心通过光纤电缆与外部世界连接,但内部仍然使用铜线。这些铜线连接着GPU加速器,而GPU加速器在等待来自其他设备的数据时会有大量时间处于空闲状态,同时消耗能量并推高成本。

IBM高级副总裁兼研究总监DarioGil称:“随着生成式AI对更多能源和处理能力的需求,数据中心必须进化,而共封装光学技术(CPO)可以使这些数据中心面向未来。通过这一突破,未来的芯片将像光纤电缆进出数据中心传输数据一样进行通信,从而开启一个更快、更可持续的通信新时代,能够处理未来的AI工作负载。”

IT之家注意到,IBM在一篇技术论文中概述了其新的CPO原型。通过显著增加数据中心的带宽,可以最大限度地减少GPU的闲置时间,从而加速AI处理。IBM称,大型语言模型(LLM)的训练时间可以从三个月缩短到三周。同时,更高的能源效率将降低能源消耗,并减少与训练LLM相关的成本。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-12-12 08:45:05

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

AI与人争资源怎么破解
...nAI公司发布的聊天机器人ChatGPT的爆红,各国都加快了AI大模型的训练,需要的算力也急速增加。马斯克最近在公开采访中表示,现在AI对算力的需求差不多每半年就会增加10倍
2024-06-29 09:27:00
去太空训练AI大模型,24小时太阳能供电的GPU明年上天
...来,太空 AI 算力或许要比地球上功率最大的还要大。大模型的未来,其实是在天上?为了跟上人工智能快速发展的步伐,最近全球都在争抢 AI 算力
2024-09-06 10:01:00
泛能网程路亮相科博会!智解能源+AI,未来产业新引擎
...即‘选用训生’”,程路在演讲中介绍。“选”是选开放模型,包括通用大模型,以及产业的小模型算法如运筹优化求解等。泛能网更贴近产业本身,在“选”的基础之上,会“用”积累的一系列能
2024-07-17 15:45:00
国创中心&华胜天成,推动大模型在汽车领域落地与运用
随着2023年各类人工智能大模型的相继问世,2024年已成为人工智能大模型行业化和应用场景落地的重要时刻。近日,国务院国资委强调,中央企业应将人工智能发展纳入全局工作统筹谋划,加
2024-03-04 13:00:00
...r构建了针对AI的下一代计算平台。这种光子计算平台能够节省能源,减少数据的碳足迹和运营成本,为AI的快速发展提供源源不断的动力
2023-06-05 09:18:00
AI时刻,欢迎来到下一个大事件 | 2024 IDC中国未来
北京,2024年9月12日——最近1年,大模型与生成式AI市场每个季度都在发生巨变,大模型应用范式创新也在不断涌现。如何紧跟最新技术,专注全新用例,确保企业在不确定性的外部环境中
2024-09-13 17:10:00
西井科技自动驾驶全球商业化落地,解码大物流智能转型
在2023年末回看科技圈,大模型是绕不开的焦点。这项技术被认为是工业革命级的生产力工具,各行各业都在关注可能由它带来的生产范式变革。这其中自然也就包括了自动驾驶和智能驾驶。不仅因
2024-01-11 16:00:00
现今全新起航:看48位科技领军人物今年预测前哨
...团队副总裁,微软在过去的两年里,工作场所的技术创新光速起飞,没有任何放缓的迹象。现在,我们比以往任何时候都更多地看到异步、交互式和智能的新工作模式的出现。我对现今年的预测是,
2023-01-26 17:00:00
泛能网发布新产品:数智化升级加速,能源领域驶入“自动驾驶”时代
...夏季高峰期综合能耗同比历史平均水平下降超过40%,全年节省能源成本50多万元。发布会当天,新奥泛能网还与中国能源研究会双碳产业合作分会联合发布了《“双碳”时代企业能碳数智化转
2024-09-13 19:43:00
更多关于科技的资讯: