• 我的订阅
  • 科技

专访英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立

类别:科技 发布时间:2023-01-22 08:00:00 来源:微型计算机杂志

代号Sapphire Rapids的第四代英特尔至强可扩展(Intel Xeon Scalable)处理器终于在1月11日发布。简单来说,本次第四代英特尔至强可扩展处理器最主要的亮点就是加速器的升级及功能增加,当然也有优秀加速器的延续。

专访英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立

延续的例子比如QAT技术(英特尔数据保护与压缩加速技术),这是针对网络上常用的压缩/解压缩功能的保护与加速。这在上一代至强可扩展处理器里也有使用,多用于一些比较常见的云计算应用,包括虚拟机迁移。以一个常见的工作负载为例:虚拟机开在一台服务器上面,用户出于备份或者其他需求,要将其搬到另一台机器上,在早期,将数据从A机器转移B机器需要花费大量的时间,而通过QAT技术的快速解压缩功能,效率将大幅提升,从而节省大量的时间。

专访英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立

升级的例子比如:针对AI的Intel AMX(英特尔高级矩阵扩展)的升级。英特尔一直强调人工智能可以在至强上运行,也有专门针对AI深度学习的加速器,而Intel AMX就是最新升级版的AI加速器。以前用CPU处理AI工作时,其负载没有那么高效。这是因为,CPU的每一个数据处理单位可能是32bit,而AI训练的很多工作可能是把数据分解到以单个bit为单位来运行的。此时任务导入CPU后,CPU的每一个数据处理单位可能都没有填满,资源会闲置。在第三代至强可扩展处理器上,同样一个32bit的数据处理单位,可以分成4个部分去运行,相当于快了四倍。而最新一代AMX的厉害之处在于,不再是简单地将32bit拆分成4个或者8个部分,而是将其视为一个矩阵,根据需要填充AI任务。这样在同样一个时序里,可以放入的AI训练任务就更多更具弹性,从而实现更高效的AI加速。对于用户来说,直接体会就是新一代至强可扩展处理器在同样的时间里,处理AI工作的效率成倍提升。

CPU上的矩阵加速单元,从实现的原理来说和GPU的矩阵计算单元对计算加速的底层原理都是一样的。因为很多AI计算就是矩阵计算,如果没有专用的矩阵计算单元,它会把二维的矩阵计算转化成所谓的向量计算,就是单条乘单条的这种,效率自然会低很多。但是不管是在CPU还是GPU当中,若是使用了矩阵计算单元,从硬件来说,需要处理的数据进入这些矩阵时,硬件单元就可以直接把它计算出来。

英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立表示:“正因为是从最底层的矩阵计算做了加速支持,所以理论上来说,所有的AI应用我们都会有很好地支持加速。这些功能并不是我们自己凭空想出来的。”在过去的五年、十年中,英特尔至强系列处理器得到很多用户的使用,英特尔通过客户多年的反馈,探索除了软件解决方案之外,是否可以直接研制出硬件加速器,在这些最常见的工作负载中,提供给用户更好的体验、更强的性能,并节省更多的时间。“对客户来讲,这些加速功能已经内置到第四代至强可扩展处理器中,大家无需更多的操作,即可使用到这些功能,这是一个灵活性,也是我们产品的一个重点。”陈葆立说。

专访英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立

数据中心的服务器处理器越来越倾向于朝多核心发展,这是一个行业的大趋势,无论英特尔、AMD或者ARM阵营,都在追求更多的核心。以至强可扩展处理器8000系列为例,从第一代到第四代的最高核数也在快速增加,从原来28核,到后来的40核,第四代目前最高规格为56核,后续可能达到60核。以此推算,下一代可能要到100核了。“因为ARM架构的特性,它的核心本身就比较小,所以可以更快地堆叠成一个更多核的产品,但这并不代表英特尔x86不能做,我们也能做到。我们在路线图上也着重地在未来、在多核方向上推出我们的能效核产品”陈葆立表示。

其实就行业应用现状来看,并不是越多核就一定越好。在某些用户需求领域可能是多核更重要,但还是有很多用户在使用数据中心处理器的时候,并非一味执着于多核,而是具体工作具体分析。这具体取决于应用方向是人工智能、搜索引擎、数据库还是一些电信网络的服务。陈葆立表示:“英特尔得益于多年的积累,对于众多应用有着不同的加速器,这带给用户的性能将会比纯粹以核数堆叠起来的性能更高。”

专访英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立

确实,在第四代至强可扩展处理器上,加速器是一个非常大的重点,涵盖了包括人工智能、网络、数据处理等一系列经过用户反馈、比较重要的工作负载类型。英特尔升级了全新的指令和加速器,不仅是在硬件层面,更重要的是软件方面也同样用了起来。“虽然在大家普遍的印象中,英特尔是一家芯片公司,但是我们也有成百上千的软件工程师,因为在已有的众多功能之上,如何优化让客户更好地使用这些指令,看到它们的性能并且得到收益,这是我们关注的。接下来一整年,我们会投入很多的软件服务以及客户合作,让更多合作伙伴更好地运用第四代至强处理器的功能。”陈葆立说。

专访英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立

这一次英特尔还推出了至强Max系列CPU,加上此前的Max系列GPU,都开始应用HBM(内置高带宽内存),这反映了英特尔在数据中心策略上的哪些变化呢?一个基本的数据中心架构,是有一个CPU,很靠近它的是内存,再远一点是SSD,更远的是硬盘,越近的部分,与CPU之间的传输速度越快。那么怎么比内存更快呢?就是直接把高速的内存嵌入到CPU的里面。HBM的方式就是将一个高速内存内置到芯片中,就在CPU隔壁,以封装的形式实现。过去几年中,AI是一个非常火的领域,涌现了许多不同的芯片,在AI加速上也有不同的设计,比如AI ASIC专属的加速芯片等等。这些芯片很重要的一个提升性能的方式就是增加HBM内存。这样在运行一些科学计算,包括AI工作负载时会有很大的性能提升。“之前是在AI加速芯片上这么做,现在,英特尔第一个在x86架构上做的一个尝试,专门为此推出优化的CPU Max系列,可以满足客户对AI、科学计算方面的需求。”陈葆立表示。

专访英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立

人工智能在好几年前就很火,除了大家一开始就知道的:人工智能可以下赢象棋围棋,也可以进行人脸识别,其实更多人工智能的应用还在演变当中。所以英特尔在所有产品上,包括在CPU中,内置人工智能加速,以及推出带HBM的企业级CPU和GPU产品(现在GPU很大的一块主要应用就是做人工智能,当然GPU还有其他的图像计算以及元宇宙方向的应用,但其实都与人工智能息息相关),都是因为人工智能是一个非常重要的工作负载。陈葆立表示:“我们会在不同的产品线上做投入,让英特尔的产品可以成为理想的人工智能工作负载产品线。”返回搜狐,查看更多

责任编辑:

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-01-22 08:45:11

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

...下,企业为提高竞争力并降低总成本,正通过在边缘采用人工智能处理数据的形式,来加速对其业务进行数字化和智能化转型,这为边缘计算带来巨大的市场机会。据调研机构预测,到2025年,
2023-07-29 20:19:00
...力于算力行业高效能与绿色协同发展。英特尔数据中心与人工智能集团副总裁陈葆立强调,英特尔整个公司对于2030年是有可持续发展的长期规划的,希望在整个价值链上都能做到节能减碳的发
2023-04-18 19:15:00
英特尔携手MAXHUB打造专业级远程协作新标杆
...民表示:“未来,MAXHUB将与英特尔继续深化合作,在OPS、人工智能、云计算、云存储和物联网等前沿技术上探索更多机遇,并在智慧办公、智能医疗等物联网相关领域加速应用与实践,
2023-07-25 21:51:00
最前线|CPU AI性能提升10倍!英特尔推第四代至强可扩展处理器,以及超1000亿晶体管GPU
...特尔至强可扩展处理器针对现代工作负载优化加速,面向人工智能、网络/5G、存储、科学计算、数据分析、安全等领域,其目标工作负载的平均每瓦性能提升了2.9倍,在优化电源模式下,每
2023-01-11 22:21:00
英特尔重磅亮相中国开源顶会,分享开源心经:开源开放、生态共赢
...产化软件全栈解决方案随着 AI 技术的不断发展,传统的人工智能算法和模型的应用已经无法满足日益庞大的使用需求,因此,边缘人工智能也逐渐受到人们关注,成为当下人工智能发展的一个
2023-06-16 22:00:00
英特尔携众多生态伙伴助力零售行业探索数字化升级新路径
...。下一步,协会还将联合项目组各方,就如何进一步通过人工智能、边缘计算等零售科技手段,更好地用好这些数据,指导企业决策和执行。英特尔公司市场营销集团副总裁、中国区网络与边缘及渠
2024-03-14 11:30:00
...特尔始终以丰富的产品线和开放多元的生态系统,为云与人工智能构筑安全高效、广泛可用的算力基石。此次推出的第五代英特尔至强可扩展处理器,就是要以更强的算力、更快的内存、更高的每瓦
2023-12-19 15:43:00
释放AI算力无限可能,英特尔协同合作伙伴加速行业智能化升级!
...的高性能处理器,产品旨在满足不断增长的高性能计算和人工智能需求,助力多行业实际部署运用。 数据爆发式增长和企业数字化转型的迫切需求对处理、传输、存储、分析数据的数据中心基础设
2024-02-03 13:00:00
英特尔预计2024年正式上市Gaudi3,用于生成式AI模型
...器准备好了全新的服务器和云服务。”英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立称。自去年年底ChatGPT发布以来,大语言模型技术支持下的AIGC应用获得了极大的发
2023-12-15 22:53:00
更多关于科技的资讯: