• 我的订阅
  • 科技

IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍

类别:科技 发布时间:2024-12-12 12:15:00 来源:浅语科技

快科技12月12日消息,据报道,IBM在光学技术方面获得新进展,有望提升数据中心训练和运行生成式AI模型的效率。

IBM推出了新一代光电共封装(CPO)工艺。该技术利用光学连接,实现了数据中心内部的光速数据传输,完美补充了现有的短距离光缆系统。

研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、电路板和服务器之间的高带宽数据传输。最大限度地减少GPU停机时间,同时大幅加快AI工作速度。

具体而言,这一新技术带来了三大方面的显著优势:

首先,它极大地降低了规模化应用生成式AI的成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上,同时,数据中心互连电缆的长度也从传统的1米扩展至数百米,进一步提升了数据中心的灵活性和扩展性。

其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。

这意味着,原本需要三个月才能训练完成的标准大语言模型,现在仅需三周即可完成。对于更大的模型和更多的GPU,性能的提升将更为显著。

最后,光电共封装技术还显著提升了数据中心的能效。据估算,每训练一个AI模型所节省的电量,竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。

IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍

【本文结束】如需转载请务必注明出处:快科技

责任编辑:鹿角

文章内容举报

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-12-12 15:45:03

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

训练一次ChatGPT,“折寿”3000辆特斯拉
...的就是光子技术。比如具备高算力、低能耗优势的光电共封装(CPO)技术。简而言之就是将光器件和交换芯片封装在一起,为暴涨的算力需求提供了一种高密度、高能效、低成本的高速互连解决
2023-04-17 19:00:00
为了强化AI,iPhone拉着三星让内存「独立」
...人瞩目的消息:三星正在应苹果的要求,试图将内存独立封装于芯片。具体来说,苹果计划从2026年起,在iPhone中放弃当前主流的PoP(PackageonPackage)封装方式——将SoC与LPDDR内存重叠封装在一起
2024-12-11 20:12:00
CPU、GPU的互连从1米飙至100米,英特尔:你相信光吗?
...光放大器和电子集成电路。并且在此前也展示了与自家CPU封装在一起的OCI芯粒,还能与下一代CPU、GPU、IPU等SOC(系统级芯片)集成
2024-07-29 09:33:00
亚马逊云科技最强AI硬件猛兽背后,工程细节详细解读
...厚的硬件基建功底,也让我们饱览了从CPU研发策略、先进封装、背面供电、AI芯片脉动阵列到芯片互连、AI网络的各种底层技术创新。尤其是对于云计算基础设施、数据中心芯片设计从业者
2024-12-16 09:15:00
中际旭创:1.6T光模块何时上量还是看需求,“小作文”不要去看
...解决方案提供商,集高端光通信收发模块的研发、设计、封装、测试和销售于一体的技术创新型企业。国泰君安证券通信首席分析师王彦龙做客澎湃新闻《首席连线》直播间时曾表示
2024-02-21 12:25:00
英伟达带来最强AI芯片,但赶超苹果又远了一步?
...3月19日对外发布的B200 GPU芯片上,英伟达首度采用了芯片封装设计,即在一个大芯片上集成了两个相同制程工艺的小芯片
2024-03-19 18:12:00
清华团队提出新型光计算架构,光训练速度提升1个数量级
...优化。“我们希望在 2-3 年内实现光芯片与外围设备完整封装的产品级光计算系统,逐步实现芯片从专用应用到通用应用的转变。”薛智威表示。太极-II 的面世,为智能光计算在大规模
2024-08-09 09:57:00
浪潮致敬“她”力量|孙素娟:追光逐梦,助推中国激光器走向世界
...光芯片打交道。她和团队所从事的是高功率半导体激光器封装工作,如何提高芯片出光功率、减少热量的产生、提高激光器的寿命、完成激光器技术完全可控是他们工作的核心。在孙素娟和团队成员
2024-03-18 21:27:00
倒计时10天!百度世界2023五大亮点全剧透
...;想做大模型应用的,也不必开发完整的端,可以将能力封装成插件,配合各种AI原生应用一同“出街”。由此,一个非AI方向的普通程序员、甚至一位不懂技术的普通用户,都能成为AI生态
2023-10-07 17:27:00
更多关于科技的资讯:
成功捕获到约6500光年外的宇宙线信号网通院参研的LACT首台望远镜完成“首光”河北新闻网讯(河北日报记者王璐丹)近日
2026-02-18 07:58:00
2026年央视马年春晚,成为机器人扎堆亮相的“超级秀场”。而最牵动人心的,当属杭州宇树科技机器人与河南塔沟武术学校的小朋友同台呈现的节目《武BOT》
2026-02-18 07:04:00
2026年央视春晚演出现场,观众席间不少人佩戴的红围巾火了。微博上有网友实时提问:哪里能买到同款?这条名为“骐骥驰骋”的红围巾
2026-02-18 07:04:00
杭州智造“飞”上春晚 全球首次极寒载人飞行惊艳哈尔滨
图为央视春晚哈尔滨分会场彩排画面。除夕夜,央视春晚哈尔滨分会场以精彩的《冰雪暖世界》演出,带来了属于“冰城”的浪漫和温暖
2026-02-18 07:04:00
宇树春晚的表演,创下至少五个全球第一
网友热议“浙江黑科技” “太硬核了”“不愧是诞生‘六小龙’的地方”当虹科技8K超高清编码技术支持下,演员衣服上的刺绣纹理清晰可见
2026-02-18 07:34:00
豆包除夕AI互动19亿次 Seedance2.0为春晚提供技术支持
河北新闻网讯(记者 李春炜)2月16日,字节跳动旗下AI助手豆包与央视总台春晚联动,面向全国观众送出10万份科技好礼,并推出多项AI互动玩法
2026-02-17 20:35:00
中新经纬2月17日电 千问App数据显示,春节活动期间,全国超过1.3亿人第一次体验AI购物,说了50亿次“千问帮我”
2026-02-17 14:16:00
新春走基层|港口老司机“秀”新操作
2月16日,秦港股份九公司集控中心操作员曹宏璐在工作中。河北日报记者 张辉摄2月16日,农历除夕。下午2时30分许,随着“航旭鑫海”轮进入秦皇岛港902泊位
2026-02-17 08:53:00
1.3亿人春节首次体验AI购物,千问一跃成为国民级AI助手
2月17日大年初一凌晨,千问发布的数据显示,春节活动期间,全国超过1.3亿人第一次体验AI购物,说了50亿次“千问帮我”
2026-02-17 10:22:00
这一年,杭产机器人忙着进化忙着上岗
宇树机器人化身武林高手亮相春晚“这才一年,太震惊了!”昨晚的央视春晚上,宇树机器人和河南塔沟武术学校带来的《武BOT》一亮相
2026-02-17 07:17:00
新春走基层|总台春晚这条“骐骥驰骋”红色羊绒围巾出自河北品牌
见习记者于歆2026年总台春晚舞台上部分演员及嘉宾佩戴的“骐骥驰骋”红色羊绒围巾,出自河北品牌!由邢台市清河县的河北红太集团生产
2026-02-17 01:36:00
阿里发布千问3.5,性能媲美Gemini 3, Token价格仅为其1/18
2月16日除夕当天,阿里巴巴开源全新一代大模型千问Qwen3.5-Plus,性能媲美Gemini 3 Pro,登顶全球最强开源模型
2026-02-16 17:34:00
海信冰箱联手央视《探班春晚》 用真空保鲜科技“锁住年味”
鲁网2月16日讯2月16日,作为央视新闻新媒体《探班春晚》的独家家电合作伙伴,海信冰箱携真空保鲜科技亮相“春晚会客厅”
2026-02-16 18:47:00
余杭文化“新三样”扬帆 驶向全球文化蓝海
《长安三万里·梦回大唐》获金鸡虚拟现实电影季“年度最佳艺术表现奖”。后亚运时代,杭州如何将因赛会集聚的国际目光,转化为持续的城市发展动能
2026-02-16 11:33:00
北京亦庄与它石智航达成战略合作!共建产业新高地
2026年伊始,具身智能产业持续加速发展。2月14日,北京亦庄与它石智航达成战略合作,双方将在具身智能关键技术攻关、应用落地和产业生态建设方面展开合作
2026-02-16 08:21:00