• 我的订阅
  • 科技

IBM开发新芯片为AI提速:消除片外内存,灵感来自大脑

类别:科技 发布时间:2023-10-20 17:24:00 来源:澎湃新闻

·在传统冯·诺伊曼架构下,计算和存储分离。而北极点芯片使存储单元在物理上尽可能接近计算单元中的计算元件。北极点芯片由256个计算单元组成,每个计算单元都有内存,通过消除片外内存,将计算与片上内存交织在一起。这些计算单元以一种网络连接在一起,设计灵感来自于人类大脑。

IBM开发新芯片为AI提速:消除片外内存,灵感来自大脑

北极点处理器芯片消除了频繁访问外部存储器的需要,在图像识别任务中比现有架构更快,能源消耗更少。

IBM研发的北极点(NorthPole)处理器芯片可避开访问外部存储器,提高计算能力,节约能源。

美国加利福尼亚州圣何塞的IBM研究人员开发了一种以大脑为灵感的计算机芯片,这款北极点处理器芯片消除了频繁访问外部存储器的需要,在图像识别任务中比现有架构更快,能源消耗更少。这表明计算和内存可以大规模集成。相关研究10月19日发表在《科学》杂志。

北极点芯片采用神经推理结构,由简单计算单元组成的多层阵列通过编程来识别数据中的模式。底层接收数据,例如图像中的像素;每一个连续的层检测日益复杂的模式,并将信息传递给下一层;顶层输出结果,例如可以表示图像含有猫、汽车或其他物体的可能性。

在传统冯·诺伊曼架构下,计算和存储分离。传统计算机芯片可以有效处理计算,但每次计算时仍然需要使用被称为RAM的外部存储器。因此不管处理器运行多快、性能多好,每次执行运算时都需要把数据从存储器搬到处理器中,数据处理完再搬回到存储器。在以数据为主的AI计算之下,冯·诺伊曼架构的“存储墙”和“功耗墙”挑战凸显。论文合著者、IBM计算机工程师达门德拉·莫达(Dharmendra Modha)表示,他曾估计在这种架构上模拟人类大脑可能需要12个核反应堆的能源输出。

而北极点芯片使存储单元在物理上尽可能接近计算单元中的计算元件。北极点芯片由256个计算单元组成,每个计算单元都有内存,通过消除片外内存,将计算与片上内存交织在一起。这些计算单元以一种网络连接在一起,这种网络的灵感来自于人类大脑皮层之间的白质连接。

在不使用最先进工艺的情况下,北极点芯片能耗是使用最先进技术的人工智能芯片的1/5。论文作者估计,如果北极点芯片设计采用最先进的制造工艺,其效率将是目前设计的25倍。论文提到,“在ResNet50基准图像分类网络上,相对于使用类似12纳米技术工艺的GPU, 北极点实现了每瓦FPS(每秒传输帧数)的能量度量高25倍,每个晶体管FPS的空间度量高5倍,延迟时间度量低22倍。”

不过,据《自然》杂志报道,即使是北极点芯片224兆内存对于大型语言模型来说也是不够的,比如聊天机器人ChatGPT这样的语言模型,即使在最精简的版本中也要占用几千兆的数据。而且该芯片只能运行预先编程的神经网络,这些神经网络需要在单独的机器上提前训练。但论文作者表示,北极点芯片架构可能在速度关键型应用中有用,比如自动驾驶汽车。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-10-20 21:45:01

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

ibm研究院推出ai专用芯片
...工智能(AI)专用芯片“Northpole”。官方宣称芯片的设计灵感“来自人类大脑的运作”,结合了神经网络和先进芯片架构
2023-10-25 14:10:00
全球首台!仿人脑超算“深南”即将面世,突破摩尔定律
...的那样,并且消耗大量的能量。这些原则是DeepSouth的主要灵感。但这不是目前唯一活跃的神经形态系统。值得一提的是由欧盟倡议资助的人脑项目(HBP)
2024-01-02 15:06:00
马斯克的脑机接口,到底是什么
...患者目前恢复良好。马斯克透露,首款产品将取名为“心灵感应”,大脑植入设备后仅靠意念就能控制手机、电脑,并通过它们控制几乎所有设备,失去四肢功能的人将是首批用户。脑机接口技术到
2024-01-31 17:15:00
地表最强AI芯片NVIDIA GB300震撼发布!联想等下半年就发售
...B/s,增加100%。而HGX B300 NVL16相比Hopper代产品,LLM推理速度提速了11倍,计算性能提升了7倍
2025-03-19 11:26:00
世界上最快的AI芯片,是何方神圣?
...,这点和人脑传递信息的方式相似。人类便从人脑中得到灵感,从而创造出这样的芯片,来提升性能,成为真正的“人工智能”,甚至无限接近人类,获得思考能力。 当然,人脑很复杂,而且人
2023-10-26 17:18:00
高通骁龙8Gen4定档10月发布!苹果CEO库克表示Mac是市面上最好的AI电脑!
...保证显示效果和触控灵敏度。三星表示,这款手机的设计灵感来自于手镯和腕表,它可以作为一种新的穿戴式设备,提供更多的便利和功能。用户可以通过这款手机查看时间、天气、通知、健康数据
2024-03-01 09:19:00
全球首个第六代HBM!三星完成HBM4内存逻辑芯片设计:4nm工艺、性能大爆发
...报报导,三星DS部门存储业务部最近完成了HBM4内存的逻辑芯片设计。Foundry业务部方面也已经根据该设计,采用4nm试产
2025-01-05 10:46:00
电动智能化提速汽车电子“大脑”国产替代
日前,国产车规级微控制器(MCU)领域龙头企业上海芯旺微电子技术股份有限公司(以下简称“芯旺微”)申报科创板公开发行上市,拟募资超17亿元。业内人士认为,车规级MCU是汽车电子设
2023-08-11 08:40:00
天玑9300 苏黎世AI跑分超2000,AI性能第一
...玩游戏高帧、稳帧并带来低功耗,还能给游戏加载和登入提速。联发科不仅和众多游戏广泛合作,还将“进军”短视频等更多类型应用的生态合作,持续提升体验。 高端旗舰影像全飙,赋能拍摄
2023-11-07 20:43:00
更多关于科技的资讯:
主人尚未开口,家已知道他要归来?这不是魔法,是海尔在AWE 2026呈现的“空间智能”。从离家一键备车到归途远程控家,从孩子社区动态到漏水自动报警
2026-03-15 23:14:00
市场监管总局:去年消费者投诉举报呈现十大特点
中国网3月16日讯 据市说新语微信公众号消息,2025年,全国市场监管部门通过全国12315平台、电话等渠道共受理消费者投诉
2026-03-16 00:59:00
为期三天的“浙里买全球·消费启杭”活动汇聚了来自全球各地的特色商品,活动会为消费者带来怎样的全新体验?走进展区,仿佛开启了一场环球之旅
2026-03-15 20:52:00
全国两会结束后的第一个周末,金华迎来了一群特殊的客人。据《金华日报》报道,3月14日,商务部党组书记、部长王文涛率队来我市调研对外贸易
2026-03-15 20:52:00
中新经纬3月15日电 “中国互联网金融协会”公众号15日发布关于OpenClaw在互联网金融行业应用安全的风险提示。近期
2026-03-15 21:30:00
在AWE2026海尔展区,五大套系呈现了智能家电的不同探索路径:Seeker套系以L4级AI智能体实现主动感知,小红花套系面向年轻群体聚焦极简交互
2026-03-15 18:40:00
3月9日至10日,滦州农商银行举办业务拓展与营销技能提升专题培训。本次培训采取“理论授课+实战走访”模式,机关部室负责人
2026-03-15 18:45:00
今年以来,肥乡联社将线上贷款营销作为零售贷款增户扩面、信贷结构调整优化的切入点,强化督导考核,加强营销培训,丰富信贷产品
2026-03-15 18:54:00
小叶医探 | 手术机器人“学院派”来了!安医大医用机器人产业学院正式启航
大皖新闻讯 3月15日,一所由政府、高校、行业、企业四方协同共建的创新型学院——医用机器人产业学院,在安徽医科大学正式揭牌启航
2026-03-15 19:18:00
“沧州造”高性能膜开年斩获千万元海外订单
2026-03-15 18:47:00
长白时评评论员 刘颂寒又是一年春草绿,又是一年“3·15”时。每年的 ‌“3·15晚会”‌,必然是不少商家坐立难安的时刻
2026-03-15 08:16:00
近日,从山西转型综改示范区传来好消息,山西中电科电子装备有限公司市场开拓捷报频传,碳化硅涂层设备、纯化设备、铜铸锭炉等订单接连落地
2026-03-15 07:11:00
14日,“金华·金漪湖”2026人工智能产业融合发展大会在金义新区举行。今年全国两会上,政府工作报告提出“打造智能经济新形态”
2026-03-15 07:41:00
杭州创新力量表现抢眼杭州日报讯 3月12日,国家服务贸易创新发展引导基金二期的首场项目路演会在杭州举行。22个来自数字贸易
2026-03-15 07:42:00