• 我的订阅
  • 头条热搜
芯片集群「贵」出天际,10年内单个集群价值将达万亿美元
...求仍然很大。例如,GPT-3需要3x10^23flop的算力来训练,则推理需要3x10^11flop算力。FPGA和ASIC芯片是专为推理量身定制的,在运行人工智能模型方面,比使用GPU更高效。不过,在这股热潮中表现最好的还是英伟达。英伟达的主导地...……更多
...此,他有三点学习体会:第一点学习心得,李彦宏预测,推理大模型将推动人工智能的一个重要应用方向。即“AI智能体”的落地,2025年可能会成为AI智能体爆发的元年。谈到第二点:推进“人工智能+”行动,让“智能经济”跑...……更多
...具调用、代码执行、游戏、数据库操作、知识图谱搜索与推理、操作系统等复杂场景。以代码功能为例,它既可以让代码“小白”也具备技术能力、为女友写一段能呈现爱心图样的代码,也可以成为程序员的帮手,让它帮助生成...……更多
英伟达特供芯片卖不动了?黄仁勋穿上东北花袄“示好”,中国大厂难掩AI野心
...三款芯片中性能最佳的一款,更适用于垂类模型的训练、推理。H20的内存高达96GB,整数精度(INT8)算力为296TOPS;L20则配有48 GB内存,整数精度(INT8)算力为239TFLOP;L2配置为24GB内存以及算力为193TFLOP。然而即便是三款芯片中最...……更多
AI时代CPU不老!Intel五代至强五大革新:340亿参数小意思
...架的支持,特别是PyTorch、TensorFlow等等,在AI训练、实时推理、批量推理等方面,基于不同算法,性能提升最多可达40%,甚至可以处理340亿参数的大模型。根据Intel提供的数据,五代至强SPECInt整数计算性能提升21%,AI负载性能...……更多
谷歌Willow激活量子计算产业!中国企业弯道超车的机会?
...是AI算力短缺的解药。然而将量子计算芯片应用于训练或推理AI大模型,现在看来还是有些难。AI大模型的训练本就是黑盒模式,会受到互联网上的错误数据影响,量子计算芯片本身也存在错误率,叠加之下可能会影响AI大模型训...……更多
推理性能飙升1.5倍!微软疯狂下单GB200芯片提升其AI算力
...,新一代GB200服务器系统在Llama 3.1 700亿参数大模型上的AI推理性能对比H200提高了足足1.5倍。此外,微软还计划在低温数据中心部署GB200服务器,以缓解冷却系统的潜在压力。其他云服务提供商订单量则显著低于微软,如亚马逊在2...……更多
CITE2024观察:AI带动新需求,国产芯片、存储踏上风口
...,提供更强的AI算力,满足大中小企业的AI大模型训练、推理需求。(图源:雷科技现场摄制)面对汹涌澎湃的AI浪潮,宝德在展会上展出了自强®训推一体算力平台PR410EI。这款一体算力平台基于第四代英特尔®至强®可扩展处理...……更多
微软难以摆脱英伟达 |焦点分析
...在其科技大会上发布了两款自研芯片——用于云端训练和推理的AI芯片Azure Maia 100,和CPU(中央处理器)Azure Cobalt 100,分别在AI芯片和CPU芯片上正面对刚英伟达和英特尔。2023年3月ChatGPT火热后,英伟达的AI芯片A100、H100便一卡难求...……更多
李彦宏:百度AI构架有优势,性能较低的国产芯片仍可高效运作!
...用英伟达的高性能GPU来对其自研的AI模型进行训练和执行推理任务。然而,美国在2022年10月首次出台针对AI芯片的出口限制政策,使得英伟达、AMD等厂商的高性能AI芯片的对华出口受限,虽然之后英伟达推出了符合规则可以继续向...……更多
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
...性能方面只给出了一个数据:Llama 3.1 700亿参数大模型的AI推理性能对比H200提高了足足1.5倍。散热怎么办?NVIDIA透露正在开发热水散热系统,可以将耗电量减少28%。不过,NVIDIA仍然没有给出Blackwell GPU服务器的出货时间,估计在...……更多
乔布斯时代之后,会迎来黄仁勋时代吗?
...flops的FP4计算能力,这是由其2080亿个晶体管提供的。高效推理:当与Grace CPU结合形成GB200超级芯片时,它能在LLM推理工作负载上提供比单个GPU高出30倍的性能,同时在成本和能源消耗上比H100 GPU高出25倍。训练能力:使用Blackwell GPU...……更多
OpenAI造芯计划曝光!拟自研AI芯片 英伟达强敌来了
...势后,算力焦虑笼罩在各大AI厂商头上。无论是模型训练推理,还是API调用都需要算力作为支撑,有多少卡也成为衡量AI厂商实力如何的硬指标之一。而眼下的GPU市场,英伟达一家独大,市场份额超80%。与此同时,GPU不仅紧俏还...……更多
理想自研芯片进展曝光:在新加坡设立办公室,团队规模已超160人
...芯片自研方面,理想同时在研发用于智能驾驶场景的 AI 推理芯片,和用于驱动电机控制器的 SiC 功率芯片。报道称,理想目前正在新加坡组建团队,从事 SiC 功率芯片的研发。在职场应用 LinkedIn 上,已经可以看到理想近期发布的...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供支持的摩尔线程KUAE平台。近年在AI热潮之下,国内的智算中心不断兴建。根据此前国家信息中心联合浪潮信息发布的《智能计算中心创新发展指南》统计,目前全...……更多
四月AI芯片三连发,英伟达:无惧竞争!
...接竞争。在AI模型算力中,Gaudi3AI芯片的模型训练速度、推理速度都更出色,分别提升了40%和50%,平均性能提升达到了50%,能效更是提高了40%。更重要的是,Gaudi3AI芯片的成本比H100更低,妥妥的性能更强,价格更低。▲IntelGaudi3VSN...……更多
PC迎来AI时刻,英特尔、微软、联想等纷纷布局,产品价格将迎上涨
...算力是上一代的8倍,可在PC上实现高能效的AI加速和本地推理,并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步,上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU,算力为16TOPS,AI性能相比上一代提升...……更多
AI芯片下半场:英伟达不再一家独大
...)”的新AI芯片组,目的是为ChatGPT等大语言模型的训练及推理提供英伟达芯片之外的替代方案。另据Tom’s Hardware消息,Athena使用的是台积电5nm工艺,专为大语言模型训练设计。 曾有知情人士透露,在开发Athena期间,微软为了满...……更多
还记得“比英伟达GPU快10倍”的芯片吗?这家公司的估值翻倍了
...处理单元”(LPU),公司曾声称“在Groq上运行大模型的推理速度较英伟达GPU提高10倍甚至更高”,这意味着公司的目标就是要挑战英伟达在AI芯片市场上的主导地位。但要指出的是,Groq是专为大语言模型量身定制设计的AI芯片,...……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...需求不可避免迎来爆炸式增长,无论是前期训练还是后期推理,都是如此。在训练层面,OpenAI 曾在 2018 年做过估算,自 2012 年以来,AI 模型训练算力需求每 3.5 个月翻一番,每年所需算力增幅高达 10 倍,增速远远超出了芯片产...……更多
手机市场深陷泥沼,厂商如何破冰?
...4位量化技术,实现精度不掉点效果下更优的性能,通过推理引擎的加速,以及芯片硬件加速的方式,更是成为行业首个端侧应用的70亿参数的模型。基于来自端侧的70亿大模型参数,FindX7能够实现比其他手机更快速的大模型响应...……更多
“一部手机管工厂”
...度磷肥为主的大型磷肥企业。该公司成立于2005年4月,由云天化股份有限公司和中化化肥有限公司共同出资组建,现已形成年产120万吨粒状磷酸二铵(含磷酸一铵)、160万吨工业硫酸、60万吨肥料级商品磷酸和10万吨电池用磷酸二...……更多
...,Maia将为生成式人工智能工作负载运行基于云的训练和推理,并且它拥有大量的晶体管。而Cobalt将会被用于执行复杂、高性能的操作。微软表示,他们并没有计划对外销售这两款产品,而是更倾向于仅供内部使用。值得一提的...……更多
芯片“围城”加剧,如何通过“算力运营”加速国产商业落地?
...找客户的能力。其次,当前大模型训练需求显著下滑,而推理需求的增长是一个循序渐进的过程,整体而言,算力采购市场也正经历明显的冷却期。狂飙两年后,大模型的发展开始从狂热回归到冷静。国外方面,OpenAI、Anthropic相...……更多
10:30,A股突然拉升!DeepSeek概念再遭爆炒
...强,万得TMT指数盘中涨幅超过2%,安凯微、青云科技-U、云天励飞-U、优刻得-W等多股盘中“20cm”涨停,另有多股涨停或涨幅超过10%。从具体行业来看,电器仪表、半导体、元器件、通信设备等板块涨幅居前。概念板块方面,DeepSe...……更多
微软被曝未来3年花1000亿美金囤芯片;杨元庆:AI不是取代人类的智能|钛媒体AGI
...柱。开源大模型Llama3推出,百度智能云支持其全系列训练推理北京时间4月19日凌晨,Meta公布期待已久的多模态开源大模型Llama 3系列,目前包括80亿和700亿两个参数的调优版本。与此同时,Meta还推出了其首款基于Llama 3开源模型的...……更多
...近年来硬件能力的突飞猛进。“我们看到大模型的训练和推理所需要的芯片或者说整个计算能力的需求大规模下降。现在一个亿级规模的端侧推理芯片,实际上在CPU上就已经可以跑了,这其实为整个AI去改变终端侧的产品形态、...……更多
无问芯穹夏立雪:破解算力焦虑,我做了大模型算力领域的“淘宝”丨36氪专访
...巨大,英伟达一家又无法满足所有的全球AI大模型训练、推理的需求;另一方面,英伟达以外的多元异构GPU也在快速发展中,AI算力生态分散,难以被整合起来,供应给亟需算力的大模型公司。夏立雪观察到,现下的算力焦虑,...……更多
黄仁勋:市场对DeepSeek的理解完全错误,算力需求依...
...日,在GTC大会的分析师会议上,黄仁勋再次强调,市场对推理模型DeepSeek-R1的理解“完全错误”,对算力的需求依然很高。此外,黄仁勋还谈到,公司没有受邀参与收购英特尔股权。在前一天的主题演讲中,黄仁勋宣布基于Blackwe...……更多
事关DeepSeek!连续涨停后,多家上市公司提示风险
...性能的同时降低使用成本,将加速AI应用发展,进而推动推理算力需求快速增长,建议重点关注各领域的头部AI应用厂商、国产算力芯片厂商、AI服务器厂商、算力云厂商、端侧硬件厂商等。平安证券认为,DeepSeek大模型的出圈,...……更多
更多关于科技的资讯:
乔思伯发布T7系列机箱:传统中式居家木艺风格
快科技5月22日消息,乔思伯最新发布的T7系列机箱提供经典黑银双色可选,采用创新的3mm铝合金框架与10mm北美黑胡桃木饰面组合设计
2025-05-22 18:51:00
夏天吃“地瓜”?这话听起来应该会让北方朋友觉得十分奇怪,明明冬天才是吃烤地瓜(红薯)的季节,其实,此“地瓜”非彼“地瓜”
2025-05-22 18:51:00
古巴美女演员将加入《使命召唤21:黑色行动6》!红礼服裙超吸睛
《使命召唤》官推今日宣布,由古巴、西班牙双重国籍女演员安娜·德·阿玛斯饰演的《芭蕾杀姬》伊芙·马卡罗将会加入到《使命召唤21
2025-05-22 18:51:00
京东骑手回应送外卖途中救下心梗老人:已获平台表彰和现金奖励
快科技5月22日消息,近日,北京丰台一位骑手小哥在送外卖途中救下心梗老人引发热议。据悉,该骑手在胡同中送餐时发现一位七旬老人晕倒
2025-05-22 18:51:00
高通终于发布Adreno控制面板!略显粗糙但功能基本齐全
快科技5月22日消息,高通终于发布了Adreno控制面板的Beta版本,为搭载骁龙X系列处理器的Windows 11设备带来了全新的图形设置管理工具
2025-05-22 18:51:00
理想直呼内行!东风风神L8官图发布:或售15万
快科技5月22日消息,理想带火了新能源家用SUV后涌现了越来越多的模仿者,甚至连名字都原封不动地挪用了过去,就在今日,东风风神L8官图正式发布
2025-05-22 18:51:00
平安健康与高和医药携手可复美,共建皮肤修复领域创新生态体系
2025年5月22日,平安健康医疗科技有限公司(股票简称“平安好医生”,1833.HK,以下简称“平安健康”)与深圳市高和医药贸易有限公司(以下简称“高和医药”)就可复美品牌合作事宜达成战略合作
2025-05-22 18:59:00
鸿蒙电脑外设兼容清单出炉!小米、联想、惠普等主流品牌一网打尽
快科技5月22日消息,华为终端官网已经正式上线鸿蒙电脑外设兼容清单,每页10款产品,总数达到了158页,涵盖超过1500款不同设备
2025-05-22 19:21:00
自发自用!广东清远天然气压差发电项目成功投运
快科技5月22日消息,据媒体报道,中国石油天然气销售广东公司清远天然气压差发电项目近日顺利完成22天并网调试,标志着中国石油在广东首个天然气门站压差能回收利用项目正式投入运行
2025-05-22 19:21:00
联想杨元庆:中国的制造优势无敌 会坚持中国作为大本营!
快科技5月22日消息,据报道,今日联想业绩沟通会上,联想集团董事长兼CEO杨元庆表示,中国的制造优势无可比拟,联想会坚持中国作为大本营
2025-05-22 19:21:00
实测智己L6表显里程为0后还能跑60km 智己CMO回应:原因有心了
快科技5月22日消息,众所周知,燃油车表显油量为0后其实还能跑一段距离,你可能想不到的是,电动车也有“藏里程”一说。近日汽车之家使用一台新款智己L6和另外一台20万级纯电轿车进行了续航实测对比
2025-05-22 19:21:00
雷军:过去5年研发投入1050亿 未来5年再投2000亿元
快科技5月22日消息,5年前,小米10周年的时候,雷军宣布未来5年投入1000亿元用于研发。最终,小米投入了约1020亿元
2025-05-22 19:21:00
小米15S Pro支持UWB超宽带互联:实现闸机自动感应 无感开锁YU7
快科技5月22日消息,在小米15周年战略新品发布会上,小米15S Pro正式发布,搭载小米自研芯片玄戒O1芯片。据介绍
2025-05-22 19:51:00
国产车高合汽车复活!大老板变成了黎巴嫩人
快科技5月22日消息,天眼查显示,华人运通与EV Electra合资成立江苏高合汽车有限公司,华人运通江苏持股30.2%
2025-05-22 19:51:00
小米自研手机芯片玄戒T1发布:集成自研4G基带
快科技5月22日消息,除了面向旗舰手机的玄戒O1,雷军还突然拿出了另一款自研芯片,面向智能手表的玄戒T1,而且集成了自研4G基带
2025-05-22 20:21:00