• 我的订阅
  • 科技

Intel AIGC体验:酷睿轻薄本也能玩大语言模型!

类别:科技 发布时间:2023-09-01 20:13:00 来源:瘦子财经

一、前言:AI领域不应忘记Intel的存在

今年最为火爆的产业无疑就是AIGC,也就是以AI为主导的生成式内容,包括ChatGPT、AI画图、AI作诗等功能。可以说,只能玩游戏而不支持AIGC的显卡已经不符合时代的需求。

如今NVIDIA在AI时代一飞冲天,可能会让很多同学误认为只有NVIDIA显卡才支持StableDiffusion这类的AI应用。

但事实上,还有一家厂商对于AI的投入力度并不逊于NVIDIA,而且在多年前就开始布局AI,它就是芯片巨头Intel公司。

Intel AIGC体验:酷睿轻薄本也能玩大语言模型!

在即将上市的14代酷睿MeteorLake处理器中,就设计了VPU(VisualProcessingUnit)AI单元,这将是Intel首次在CPU中放入独立的AI硬件单元。集成在CPU内部的好处就是能够拥有极低的延迟,在处理一些低负载AI时要优于GPU。

更令人想象不到的是,VPU还能对StableDiffusion提供硬件加速,无需昂贵的独立显卡。这也就意味即将上市的14代酷睿轻薄本将会以更加完整的姿态的拥抱AI。

为了让更多的Intel用户也能体验到AI,Intel还推出了AI应用Demo“英特尔大语言模型”,它可以帮助处理一些日常生活以及工作中的一些任务。

这个Demo特别对混合架构的第12/13代酷睿处理器进行了优化,也就是市面上主流的Intel处理器轻薄本就能直接运行,并且会有相当棒的体验。

Intel AIGC体验:酷睿轻薄本也能玩大语言模型!

不止CPU,在GPU领域Intel也做了非常多的努力。年初,Intel推出了基于OpenVINO,AI绘图开源模型Stable?Diffusion可以使用开源图片编辑软件GIMP,让IntelArcGPU能通过输入关键词实现创意绘图。

不久之后,Intel又推出了基于OpenVINOPyTorch后端的方案,能让ArcA770/A750GPU直接支持StableDiffusionWebUI,并且在加速能力方面远强于同价位的NVIDIAGPU。

下文中我们将会进行对比测试,让大家能更为直观的了解IntelArcGPU的AI性能。

Intel AIGC体验:酷睿轻薄本也能玩大语言模型!

二、英特尔大语言模型体验:13代酷睿轻薄本轻松搞定

这里我们选择了一台通过IntelEvo认证的轻薄本--ThinkPadX1Yoga来进行测试,它搭载的是Intel酷睿i5-1340P处理器。

Intel AIGC体验:酷睿轻薄本也能玩大语言模型!

英特尔大语言模型应用拥有“聊天助手”、“情感分析”、“中文翻译”、“故事创作”、“生成大纲”、“信息提取”、“美食指南”、“旅游规划”等八大模块,并且还有写代码的能力。

在“聊天助手”中,我们尝试让AI写一首关于安史之乱的七言律诗,虽然结果并不算好,但仍有部分诗句让人眼前一亮,可作为创作借鉴。

Intel AIGC体验:酷睿轻薄本也能玩大语言模型!

“生成大纲”功能,你只需要说出自己想写怎样的作品,AI就会给你一个故事大纲。

Intel AIGC体验:酷睿轻薄本也能玩大语言模型!

“中文翻译”可以翻译一段中文,而且你的提问,AI也是用英文回答。

其他功能模块,有兴趣的同学可以自行摸索体验。

三、StableDiffusion出图测试:ArcA77016GB大幅领先RTX4060

目前Windows端的StableDiffusionWebUI大多是采用“绘世”启动器,不过可惜的是这款启动器目前只支持NVIDIAGPU,AMDGPU根本无法识别,IntelArcGPU可以被识别,但却无法启用硬件加速。

因此想要使用Intel显卡来加速StableDiffusion,需要运行在Linux环境下才能实现。

当然,也并不是说必须得安装一个Linux系统,更简单的途径是使用Docker(容器)。

本次我们的测试即是基于Docker版StableDiffusionWebUI,参与测试的显卡包括A/I/N三家的4款2000元价位甜点显卡。

Intel AIGC体验:酷睿轻薄本也能玩大语言模型!

可以看到,ArcA77016GB的确可以支持硬件加速,GPU利用率99%,显存占用超过了8GB,功耗也跑满了190WTGP。

为了将显存占用控制在8GB之下,以便让其他显卡也能顺利测试,我们将出图分辨率设置为640*480。

Intel AIGC体验:酷睿轻薄本也能玩大语言模型!

测试结果多少还是让人有一些意外。

如果从游戏性能表现来看,RTX4060比2张ArcGPU都要强不少,但是StableDiffusion出图更依赖显存,这方面RTX4060由于被阉割的比较厉害,特别是显存位宽只有128Bit,容量也只有8GB,因为并不是特别适合用来加速StableDiffusion。

AMD这边,虽然RX6700XT拥有12GB大容量显存、192Bit位宽,但由于AMD目前对AI支持力度不够,导致旗下GPU在这方面的表现不尽如人意。

两张IntelGPU的表现有些超越预期,就算是定位更低的ArcA750成绩也与RTX4060接近。ArcA770的表现更是大幅超越了对手,领先幅度高达20%。

另外,我们这是限制了出图分辨率。如果使用更高分辨率,或者安装一些其他插件进行AI画面修复,8GB显存是远远不够的,ArcA77016GB的优势也会更大。

四、总结:AI画图不妨考虑2000元的IntelArcA77016GB

此前,当有同学让我推荐能跑AI的显卡时,我会根据预算推荐对应的N卡,但如今的话,我也会考虑I卡。

众所周知,StableDiffusion对于显存容量和速度有非常苛刻的需求,8GB及以下容量显存会有非常多的限制,比如使用高分辨率出图。

因此,想要认真玩AI画图,16GB或者24GB显存会带来更多的玩法和更好的体验,这也导致了二手RTX309024GB显卡的热销。

当然,即便是2手RTX3090,其价格也不是普通消费者能够承受的。

纵观当前的GPU市场,IntelArcA77016GB可以说是专为AI而生的显卡。这款显卡以低于RTX4060的售价,提供了后者2倍的显存容量和显存位宽,可以一定程度上治疗好AI玩家的StableDiffusion显存焦虑症。

虽然ArcA77016GB游戏性能与RTX3060处于同一水准,但其AI出图的加速性能却比RTX4060还要强20%以上。

相比之下,NVIDIA拥有16GB显存的显卡型号相对较少而且售价高昂,比如RTX4080高达9000元的售价让不少AI玩家望洋兴叹。即便是不久前推出的RTX406016GB,其售价也在4000元左右,几乎2倍于ArcA77016GB。

因此,对于预算不足的AI玩家来说,IntelArcA77016GB在性价比方面的确胜多大多数显卡。

至于AMD,其AI之路还很漫长!

Intel AIGC体验:酷睿轻薄本也能玩大语言模型!

另一方面,AI应用往往都需要强大的算力,而性能并非轻薄本的优势,所以很少有人会把轻薄本和AI联系起来。

Intel则让我们看到了不一样的一面,配备13代酷睿P系列的Evo认证轻薄本上,英特尔大语言模型可以运行得非常流畅,无论写诗、翻译,还是写代码,抑或生产力辅助,都能快速给出相当有帮助的结果,可以大大提升工作效率。

无论是日常办公,还是外出差旅,随手拿出便携的Evo轻薄本,都可以完成一些轻负载的AI推理工作,这在以往可是不敢想象的。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-09-02 00:45:01

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

N卡又抓到风口:8GB显存 首选RTX30/40系
...户希望像现在风靡的Lora插件一样训练自己的自定义AI绘画模型,对显存的需求则会进一步提升,16GB甚至更高的显存才能保证流畅的训练自己的AI绘画模型
2023-03-06 11:12:00
RTX 40系GPU AI性能首测
...把玩家输入的语音转化为文字,然后上传至云端的大语言模型给出对应的对话回复,接着在云端把这答复转换为语音回传本地,在本地利用NVIDIAAudio2Face为游戏角色创建脸部表
2024-05-04 17:17:00
轻薄本AI出图谁更强?锐龙7 7840S完胜i713700H
...、采样器:DPM++2MKarras、CFGscale:7、图片分辨率:512×512、模型:墨幽人造人_V1040
2023-10-16 11:00:00
4g显存低配畅玩aigc!
...年前的GTX1650(显存4GB),AI出图效果堪比当前最好的开源模型SDXL。△图源:推特@ナビ这是最近在GitHub上连续数日霸榜TOP1的新项目Fooocus
2023-08-26 19:58:00
NVIDIA Chat RTX 0.3版本:映众RTX40显卡解锁AI新体验
...来了诸多令人兴奋的新功能。作为基于RTXGPU的本地大语言模型(LLM),NVIDIAChatRTX凭借其卓越的性能和安全的本地处理
2024-06-04 11:13:00
AI应用遍地开花,AI应用该如何选择显卡?
...户也逐渐增多,无论是AIGC相关的内容生成用户,还是AI大模型本地支持等,都需要显卡的介入。那么,AI应用、AI计算如何选择显卡呢?选择这类应用的显卡,关注的点应该放在哪里呢
2024-04-19 10:30:00
超频冲上3.1GHz!索泰RTX 4070天启OC评测
...时下最火的StableDiffusion,它是深度学习文本到图像生成的模型,有了RTX40系的加持,也让众多玩家进一步发挥出显卡的可玩性
2023-04-25 14:38:00
chatrtx正式上线:ai加速、语音交互、ai语音识别
...它用到了TensorRT-LLM和NVIDIARTX加速技术,是显卡应用大语言模型的一个技术演示demo。最近,NVIDIA宣布——ChatwithRTX正式更名为ChatRTX
2024-05-15 17:03:00
2000元内性能无敌!英特尔锐炫A580独立显卡上手
...针对主流级用户推出。能够在1080P分辨率下提供出色游戏体验,还能兼顾视频剪辑等后期内容创作,并且还支持生成式AI作图等,是一块非常全能的千元级显卡。正好我们近期也拿到了这款
2023-12-11 23:15:00
更多关于科技的资讯: