我们正处于一个信息大暴发的时代,每天都能产生数以百万计的新闻资讯!
虽然有大数据推荐,但面对海量数据,通过我们的调研发现,在一个小时的时间里,您通常无法真正有效地获取您感兴趣的资讯!
头条新闻资讯订阅,旨在帮助您收集感兴趣的资讯内容,并且在第一时间通知到您。可以有效节约您获取资讯的时间,避免错过一些关键信息。
12月11日消息,IBM宣布开发出一种新的光学技术,能够以光速训练AI模型,同时大幅节省能源。该公司表示,通过将这项突破应用于数据中心,训练一个AI模型所节省的能源相当于5000个美国家庭一年的能源消耗。
该公司解释说,虽然数据中心通过光纤电缆与外部世界连接,但内部仍然使用铜线。这些铜线连接着GPU加速器,而GPU加速器在等待来自其他设备的数据时会有大量时间处于空闲状态,同时消耗能量并推高成本。
IBM高级副总裁兼研究总监DarioGil称:“随着生成式AI对更多能源和处理能力的需求,数据中心必须进化,而共封装光学技术(CPO)可以使这些数据中心面向未来。通过这一突破,未来的芯片将像光纤电缆进出数据中心传输数据一样进行通信,从而开启一个更快、更可持续的通信新时代,能够处理未来的AI工作负载。”
IT之家注意到,IBM在一篇技术论文中概述了其新的CPO原型。通过显著增加数据中心的带宽,可以最大限度地减少GPU的闲置时间,从而加速AI处理。IBM称,大型语言模型(LLM)的训练时间可以从三个月缩短到三周。同时,更高的能源效率将降低能源消耗,并减少与训练LLM相关的成本。
以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。
快照生成时间:2024-12-12 08:45:05
本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。
信息原文地址: