• 我的订阅
  • 科技

英特尔以全新软硬件助力千行百业释放AI潜能

类别:科技 发布时间:2024-04-26 22:38:00 来源:卓越科技

2022年下半年,AI文生图软件首先点燃了生成式AI的热度,而后这股热潮随着ChatGPT的发布达到了巅峰。虽然最开始生成式AI的应用场景偏向娱乐创作,但很快企业就意识到了其在提升自身商业竞争力方面的作用,并尝试将生成式AI融入到不同的商业模式之中。有数据显示,到2026年,80%的企业将会使用生成式AI,并有50%的企业在边缘场景中部署各种不同的机器学习或者深度学习应用,从而提升企业竞争力。而企业在生成式AI上的支出则预计会从今年的400亿美元攀升到2027年的1510亿美元。

英特尔以全新软硬件助力千行百业释放AI潜能

当下,AI更多承担的是一些简单的辅助功能,例如文生图、大纲提炼、会议总结等等,而后随着相关技术的成熟,AI助手的时代将会来临,届时AI可以帮助人们预测习惯、分析数据来采取一些简单的行动,例如智能客服、日常行程管理助手,或者帮助企业回答合规相关的问题。再之后则会迎来全功能AI的时代,AI助手可以通过互动执行复杂的任务和功能,推动企业部门自动化,并基于不同AI的数据交流,提供全方位且更精准的价值。

英特尔以全新软硬件助力千行百业释放AI潜能

但无论是AI助手时代还是全功能AI时代,其基础都是将企业的数据和知识导入到现有的AI模型之上,然而由于对数据管理方式的不同,“企业”和“AI”仍然是两个相对独立的概念,因为企业数据相对更注重隐私性,但通用的AI模型则以公开数据作为基础,对此英特尔公司市场营销集团副总裁、中国区数据中心销售总经理兼中国区运营商销售总经理庄秉翰表示,“英特尔针对这一现状提出了企业AI的概念,即通过开放的生态,实现更有规模性的、更可靠的帮助企业释放AI潜力,这是英特尔企业AI最基本的核心。”

不过不同的层级也有着不同的考量因素,企业AI对底层算力的需求要更加多样化,而且需要具备可获取性和隐私性;其次,AI基础设施要具备可扩展性和标准化,在支持私有云的同时也需要支持公有云部署;然后,软件需要具备安全和可靠的特性,理想状态下是基于公开API或者开源的软件;最后在应用生态方面,也要满足便捷和开放的需求。

英特尔以全新软硬件助力千行百业释放AI潜能

全新至强6处理器提供坚实算力基础

作为企业AI的基础,算力的重要性毋庸置疑,从算力角度来看,英特尔可以提供涵盖云到边缘再到终端的多元异构算力,而针对企业AI,英特尔则在IntelVision2024上推出了面向的数据中心、云和边缘的下一代英特尔至强6处理器。

英特尔以全新软硬件助力千行百业释放AI潜能

与前几代至强产品不同的是,至强6并非单独的产品,而是一个产品组合,包括配备能效核的英特尔至强6处理器(代号SierraForest)以及英特尔至强6性能核处理器(代号GraniteRapids),前者具备更高的能效,针对高密度和横向扩展工作负载进行了优化,而后者具备更高的性能、内核密度、内存和I/O创新,同时也有更高的能耗,针对计算密集型和AI工作负载进行了优化。

架构设计方面,SierraForest和GraniteRapids则全都采用了模块化的设计方式,通过fabric技术把模块化的die互连,从而实现更加灵活的架构。如此一来,可以将独立的计算和I/O的Chiplet实现更加灵活的组合,并借助EmiB封装技术实现高带宽和低延迟。

能效方面,SierraForest与第二代英特尔至强处理器相比,每瓦性能提高了2.4倍,机架密度提高了2.7倍,这样的能效提升不仅大幅减少了设备占用的物理空间,还节省了超过1兆瓦的工号,在当前国内节能减排要求日益严格的背景下,SierraForest无疑是一个理想的选择。

英特尔以全新软硬件助力千行百业释放AI潜能

性能方面,GraniteRapids不仅能够支持MXFP4数据格式,并且在传统的FP16格式上也有性能提升,甚至能够运行700亿参数的Llama2,从而为客户带来更高的AI性能。此外,据最新消息,GraniteRapids在运行80亿参数的Llama3模型推理时,延迟比第四代英特尔至强处理器表现出两倍的提升,并且能够以低于100毫秒的token延迟运行700亿参数的Llama3模型推理。

携手生态合作伙伴助力数智变革

现如今,生成式AI正在重新所有企业的核心竞争力,且成为了一种不可逆的过程,相对应的,人工智能的下半场也一定是从技术突破进入到落地应用的阶段。在英特尔看来,AI策略能够落地的两大关键正是“开放”和“易部署”。“英特尔在中国始终秉承着‘水利万物而不争’的理念,尤其新的技术潮流来临、新一代技术的应用扩展之时,开放、可靠和易部署的策略对终端用户来说极为关键,这也是我们在以往每一次技术迭代过程中,与OEM、ODM、ISV、SI等在内整个生态系统合作的基础。技术并非为技术而生,而是为落地而生的。”英特尔公司市场营销集团副总裁、中国区云与行业解决方案部总经理梁雅莉表示。

多年以来,英特尔一直与中国的生态合作伙伴紧密合作,并通过一系列创新产品组合和解决方案来推动产业发展。例如在云计算领域,英特尔与金山云合作,在其第七代性能保障型云服务器X7中引入了第四代至强可扩展处理器进行了针对性优化,同时针对StableDiffusion、Llama2和ChatGLM2三款主流大模型进行了调优,并发布了优化的模型镜像。相比优化前的模型,由英特尔AMX优化后的StableDiffusion推理性能提升高达4.96倍,而在开源大语言模型Llama2和ChatGLM2模型上则实现了2.62倍和2.52倍的性能提升。

英特尔以全新软硬件助力千行百业释放AI潜能

同样是在云计算领域,英特尔则与京东云展开了诸多AI场景的落地尝试,例如在智能营销方面,京东实现了可以根据产业洞察和带货思维进行服务的数字人,且成本极低;在智能客服方面,京东则利用AI技术实现了拥有超大服务量并且具备多模态理解能力的智能客服,这些大模型应用和云服务的背后正是基于英特尔至强可扩展处理器的云基础设施。性能方面,相较基于京东定制化第四代至强可扩展处理器的服务器平台,基于第五代至强可扩展处理器的京东云新一代云服务器整体性能提高了23%。

英特尔以全新软硬件助力千行百业释放AI潜能

在智能制造领域,TCL华星则在英特尔的赋能下实现了生产效率的提高和成本的降低。具体来说,TCL华星通过英特尔的端边技术能力,成立了TCL华星光电与英特尔智能制造联合实验室,实现了设备端取图、端边计算、终端显示、结果反馈等闭环方案的打通。同时,在生产线检测体系和智慧物流中,TCL华星借助英特尔提供的硬件产品和“云边端”架构,降低了人力和设备配置成本,大幅提高了产品良率。

英特尔以全新软硬件助力千行百业释放AI潜能

在生命科学领域,传统的制药流程往往需要10年以上的周期和庞大的研发成本,英矽智能与英特尔合作优化的PandaOmics平台可以为医院的医生、科研机构的研究者,以及药企的研发人员提供有效支持,在英特尔酷睿Ultra7以及基于第五代英特尔至强可扩展处理器的算力支持之下,可以加速从靶点发现、小分子生成到临床结果预测等整套的药物研发流程,实现制药流程的降本增效。

英特尔以全新软硬件助力千行百业释放AI潜能

最后,在教育领域,华东师范大学则在英特尔的赋能之下开发了OpenEdu4ALL大模型应用平台,其不但可以显著提升教师备课效率,提高备课质量,还能有效提升教师的数字素养,实现智慧教育。

英特尔以全新软硬件助力千行百业释放AI潜能

从上世纪的理论探索再到如今的生成式AI热潮,人工智能正在重塑生活与社会。作为领先的半导体制造商,英特尔多年来一直致力于通过开放、可扩展的软硬件平台以及端到端的解决方案,助力企业释放数据潜能。如今,随着AI时代的到来,英特尔也在以开放、易部署、可扩展、可靠为核心,凭借全栈的数据中心产品组合,为千行百业的加速创新赋能。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-04-26 23:45:10

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

本文转自:新华网7月28日,英特尔网络与边缘产业高层峰会在南京举办。会上,英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti
2023-07-29 20:19:00
英特尔携手中国联通:加速网络变革释放5G潜能,助力千行百业数智化转型
英特尔正在“五大超级技术力量”的驱动下,通过从云到端的算力布局和产品组合,为数字经济提供基础的支持,驱动数实融合。党的二十大提出建设数字中国,加快发展数字经济,促进数字经济和实体
2023-03-06 18:39:00
英特尔发布全新软硬件平台,全速助力企业推进AI创新
中关村在线消息,美国当地时间4月9日,英特尔举办了面向客户和合作伙伴的英特尔on产业创新大会,宣布了英特尔至强6处理器的全新品牌,推出英特尔Gaudi3加速器,以高性能、开放性和
2024-04-10 17:08:00
专访英特尔戴金权:助力中国AI大模型高效、可持续发展
...,AI技术即将迎来新一轮增长,而它也将重塑千行百业。英特尔作为全球领先的芯片及基础设施解决方案公司,无疑是产业的风向标,也是行业的AI先锋。这家公司正在不断探索在硬件中加入A
2023-12-26 17:50:00
...本文转自:人民邮电报为持续推动智能制造发展,近日,英特尔助力联想打造了联想(天津)智慧创新服务产业园。在构建这座5G智慧工厂的过程中,双方充分运用绿能技术和绿色建造技术,在智
2023-12-14 17:05:00
...量惊人,对社会经济绿色低碳化的影响不容小觑。对此,英特尔中国技术部总经理高宇表示,可持续发展需要绿色化和数字化双轮驱动,英特尔矢志于做计算机行业的创新引领者,选择从商用台式机
2023-12-26 14:27:00
英特尔AI PC半年“答卷”:三大AI引擎驱动
【天极网笔记本频道】AI PC,英特尔CEO帕特・基辛格在去年九月份提出了这个概念。什么是AI PC?他的答案是能够玩转AI功能的PC,可通过云与PC的紧密协作,或在电脑端独立运
2024-04-04 15:01:00
从0到1的飞跃 商用AI PC:开启未来更多可能
...他产品,也是既相似又不同。在3月26日举办的“2024全新英特尔商用客户端AIPC产品发布会”上,英特尔将基于酷睿Ultra处理器的AI特性延展到商用领域
2024-04-04 14:57:00
数字时代下 英特尔vPro平台赋能PC产业实现多元发展
...平台正是企业应用现代化的最后一块拼图。在此背景下,英特尔在4月21日举办了一场以“焕‘芯’拓局‘绿’动未来”为主题的商用终端新品发布会,在会上英特尔不仅推出了全新vPro平台
2023-05-06 11:18:00
更多关于科技的资讯: