• 我的订阅
  • 头条热搜
近日,高通公司发布了新一代云AI推理加速卡——CloudAI100Ultra。这款产品专为生成式AI和大型语言模型而设计,提供相当于上一代产品四倍的性能。新款CloudAI100Ultra可部署的模型规模进一步扩大,单张150W的卡上可部署100B参数模...……更多
赋能产业互联网,高通量计算让世界更高效!
...的高倍智能视频压缩一体机、信创智能NAS存储、视频智能加速卡以及数字督察智能一体机等创新产品和应用,以及围绕高通量计算构建的产品布局和优势所在。中科通量此次在CITE2024展会上的展出也体现了公司在推动高通量计算进...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...款最热门产品的产能和需求,但据外媒报道,今年内H100加速卡的产能至少同比增长了3倍,且仍有许多产能瓶颈无法解决。比如台积电5nm生产线产能,英伟达的GPU必须使用台积电的CoWoS封装技术,市面上完全找不到别的替代品。...……更多
PC开启AI时代:行业要变天
...支持AI软件开发。或许仅从性能角度来看,可配备显卡、加速卡的工作站、台式机更胜一筹,但是多数用户手中的笔记本,特别是轻薄本,在体验方面更有看点。毕竟在PC端能够部署终端侧AI,而终端侧AI的优势可不仅是低时延、...……更多
高通参展MWC 2024,将展示5G开放式VRAN部署
...为满足现代网络需求,高通基础设施处理器与高通X1005GRAN加速卡配合使用,这一系统级解决方案能够为开放式vRAN部署实现最佳每瓦特性能,并简化成本结构;此外,高通利用突破性异构计算能力、集成式硬件加速器以及强大的5G...……更多
...英伟达2023年营收为552.68亿美元,同比增长105%,目前其AI加速卡的市场占有率超过80%,TrendForce集邦咨询认为H200,以及下一代B100/B200/GB200将继续推动英伟达营收快速增长。高通2023年营收达309.13亿美元(仅计算QCT),同比下降16%,...……更多
戴尔科技:夯实AI时代“算力底座”,让每一分算力“物尽其用”
...尔科技还与NVIDIA、Intel、AMD加强合作,打造就绪的下一代加速卡,未来戴尔科技还将采用Open Rack v3开放机柜,集成液冷组件,形成整机柜交付平台。第二,在智能维度,目前计算正从以CPU为核心的系统结构转向以AI为核心的异构...……更多
英伟达“骚操作”令人无语:为了抬价竟让显卡停产1个月?
...式AI恰恰需要基于海量的数据进行推理训练,高算力的GPU加速卡自然也成了市场的抢手货。根据FierceElectronics报道,ChatGPT目前需要用25000块英伟达A100GPU芯片来维持训练。大量公司同样需要基于英伟达的CUDA平台进行对AI的训练和推...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...B左右的内存,即使完全忽略内存消耗,也需要305张Groq LPU加速卡才够用。如果考虑到内存消耗,可能需要572张Groq LPU加速卡。官方数据显示,Groq LPU的平均功耗为185W,即使不计算外围设备的功耗,572张Groq LPU加速卡的总功耗也高...……更多
英特尔Lunar Lake「统一内存」,一切都是为了AI
... M 系列芯片就采用了统一内存架构,此外,英伟达的高端加速卡如 H100、B200 都是直接将内存(包括 HBM)焊在 GPU 和 CPU 旁边,封装成一个芯片。这样做的好处也非常明显,首先是可以显著提升数据传输速度和系统响应时间。内存...……更多
国产大模型第一梯队玩家,为什么pick了CPU?
...经验还表示: 不仅如此,利用充足的CPU资源,降低对于AI加速卡的需求,从而降低LLM推理服务的总体拥有成本(TCO),特别是在离线的LLM推理场景中表现出色。而且在千帆大模型平台上,可不止是有自家的ERNIE,还有很多主流的大...……更多
高通:人工智能只是一个红利
...者可以在高通Snapdragon Summit Keynote 2023上查看详细信息)。高通公司利用Oryon 系列芯片进军笔记本电脑也是如此。高通的骁龙数字底盘在汽车制造商中取得了一些重大胜利。最近几个季度,高通一直在直言不讳地表示,它看到了设...……更多
为了稳住RTX 4070价格,英伟达选择了断供的方法
...到了AI的机会,而这也引起了AI的军备竞赛,高算力的GPU加速卡自然成了抢手货,而NVIDIA在这方面也是霸主,此消彼长游戏卡的重要性自然下降。根据NVIDIA的财报,2023年1季度的时候,Nvidia的数据中心业务收益就已经超过了游戏显...……更多
昆仑芯ai加速卡r200完成相互兼容性测试认证
,昆仑芯科技宣布,近日,昆仑芯R200系列AI加速卡与OpenCloudOS8完成相互兼容性测试认证,兼容性表现良好。这是OpenCloudOS操作系统开源社区完成的首个兼容性测试验证。▲ 昆仑芯AI加速卡R200在测试中,基于昆仑芯提供的测试工...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...进行大幅提升。英伟达于2022年发布了基于Hopper架构的H100加速卡,而现在推出基于Blackwell的加速卡在性能上也得到了全面提升,更擅长处理AI相关任务。从外观来看,Blackwell GPU的体积明显大于H100,采用台积电的4纳米(4NP)工艺...……更多
发布一揽子新品,AMD再次挑战英伟达!但败局早已注定?
...列全新的产品,包括新一代的AI PC处理器、EPYC处理器、GPU加速卡等多款重磅产品。作为英伟达为数不多的友商,AMD对这一波新品寄予厚望,发布会还特意邀请了OpenAI、微软等巨头的大佬来站台,然而市场对其产品却不看好,其股...……更多
AMD公布全新AI加速卡路线图:CDNA 4架构明年见
如今AI大红大紫,英伟达也凭借着AI加速卡赚的是盆满钵满,这对于AMD来说实在是心痒痒,因此AMD也马不停蹄地公布了自家最新的AI加速卡路线图,未来的计算卡将会比英伟达B200更强,希望能够从英伟达口中夺得更多的市场份额...……更多
紧随NVIDIA每年一更新!AMD公布AI加速卡路线图:明年就出CDNA4架构
快科技6月3日消息,在Computex 2024上,AMD公布了其AI加速卡的全新路线图,展示了未来几年的产品更新计划。根据路线图,MI325X AI加速卡预计将于2024年第四季度发布,作为现有MI300系列的升级版,将采用与MI300系列相同的CDNA 3架构...……更多
让AI无处不在 高通全面开启终端侧生成式AI大门
...商的共识,具备十分光明的前景。正如在本届骁龙峰会上高通公司CEO安蒙所说的那样,“终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。”而“骁龙在助力塑造和把握终端侧生成式AI机遇...……更多
AMD实现处理器效能提升30倍!比原定时间提早一年
...的Advancing AI 2024大会上,AMD正式发布了新款AI芯片——GPU加速卡“Instinct MI325X”。它在大获成功的MI300X基础上再进一步,主要是增强了HBM内存部分。MI325X配备了多达256GB HBM3E内存,相比于MI300X又增加了64GB。MI325X也……更多
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
家10月22日消息,高通公司在今天举办的骁龙峰会上,推出了骁龙8至尊版移动平台,这是迄今为止高通最强大且全球速度最快的移动端系统级芯片。峰会首日,高通公司宣布和智谱、腾讯混元合作,共同推动端侧AI模型部署和落...……更多
高通自研CPU架构要上手机!软硬全家桶亮相China Joy,对话高管:解密生成式AI杀手锏
...经理阿力克斯·卡图赞(Alex Katouzian)进行了深入交流。高通公司全球副总裁侯明娟在今天的演讲中提到,高通从2018年开始参加China Joy,也是游戏手机这个品类的“发起者”,目前展出的产品和技术有350多个。今天,对于移动游...……更多
戴尔以技术创新推动AI基础架构升级
...门针对GPU计算设计和优化,能支持英特尔等不同品牌的GPU加速卡,可满足不同应用场景的需求。“围绕AI 应用的GPU加速,戴尔科技能提供像GPU池化、GPU分布式训练、GPU集群管理和资源调度、边缘AI计算等GPU加速计算解决方案。”戴...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...模型的性能需求,同时在成本上也是远低于那些高昂的AI加速卡。 英特尔表示,在使用2S 五代至强平台上运行GPT-J 6B模型(60亿参数),它可以实现在大约25毫秒下完成一个Token的处理。不过,对于运行更大的Llama 2 13B模型时,其...……更多
GPU训Llama 3.1疯狂崩溃,竟有大厂用CPU服务器跑千亿参数大模型?
...写带宽为437GB/s。这个数据,对于一些搭载GDDR显存的GPU或加速卡,可以说是毫不逊色。但仅靠硬件远远不够仅仅依靠硬件创新,是远远不够的,CPU很难进行大模型算法的大规模并行计算。正如开篇所述,大模型对通信带宽的要求...……更多
AMD发布最强AI芯片,对标英伟达Blackwell,2025年上市
... 300 系列处理器。 对标英伟达最强 AI 芯片:Instinct MI355X 加速卡最近,全球 AI 芯片供不应求,AMD 已成为 GPU 领域的重要玩家,今天该公司宣布了最新的 AI 加速器和用于 AI 基础设施的网络解决方案。具体而言,AMD 推出了 AMD Instin...……更多
amd旗舰aigpu加速器mi300x对比英伟达h100
...00高出60%。性能:AMD公司在演讲过程中,对比英伟达的H100加速卡,分享了MI300X的性能参数情况,IT之家附上数值如下:内存容量是H100的2.4倍内存带宽是H100的1.6倍FP8TFLOPS精度是H100的1.3倍FP16TFLOPS精度是H100的1.3倍在1v1比较中,训练L……更多
高通骁龙:端侧AI 启幕移动智能“芯”时代
在移动AI这条道路的探索上,高通既是启蒙者,又是见证者。无论是小米澎湃OS、OriginOS 4还是ColorOS 14,如果你关注过最近这段时间国内主流手机品牌集中发布的新版系统,会发现AI已经成为发布会PPT上“躲不开,绕不过”的关键...……更多
NPU IP累计出货超1亿颗!芯原股份一站式AI解决方案揭秘
...原IP的智慧家居设备等;基于芯原GPGPU IP和NPU IP的蓝洋智加速卡的高性能AI PC产品;基于芯原双通道图像信号处理器(ISP)IP的银牛视觉AI处理器等;芯原第二代数据中心视频转码平台解决方案等。编辑:芯智讯-浪客剑 ……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...位的可观测能力,对资源池、队列、节点、任务、实例、加速卡等多个维度实现了无死角的覆盖。 自动容错能力,百舸 Flash Checkpoint 故障恢复机制实现秒级 Checkpoint 和近乎无损的 Step 粒度容错。此外为 PyTorch 大模型训练场景开...……更多
更多关于科技的资讯:
随着AI强劲增长,市场对算力的需求也持续提升,韶关正瞄准千亿级华南算力产业集群,打造世界级算力之城。2月14日,韶关市人民政府与广东东阳光科技控股股份有限公司在市区隆重举行战略合作框架协议签约仪式
2025-02-16 20:00:00
山西焦煤西山煤电西曲选煤厂2月16日公布了一组数字:该厂在煤泥处理方面取得了显著成效,2024年煤泥产出率同比由2.48%降低至1
2025-02-16 18:18:00
聚力建支点 夺取开门红丨十堰国科鸿鹄:加快农机研发 力争年产2000台
十堰广电讯(全媒体记者 叶旭升 郧阳区融媒记者 郝周)一季度是全年经济的风向标,抢开局、夺首胜关乎信心、关乎全局。新春伊始
2025-02-16 18:38:00
奋战开门红|亚非拉市场表现抢眼,蓝晶易碳光伏产品拓宽国际赛道
齐鲁晚报·齐鲁壹点 隋忠伟 厉昕月 李浩在非洲与东南亚的广袤大地上,电网基础设施建设相对滞后,停电断电频繁,当地民众对稳定电力的渴望极为迫切
2025-02-16 19:02:00
大国重器上新!国产自研载人飞艇AS700电动款来了:2月首飞
快科技2月16日消息,据媒体报道,国产AS700D电动款载人飞艇通过首飞放飞评审,预计本月底首飞。据介绍,AS700D是AS700载人飞艇的改进型
2025-02-16 12:23:00
微软Edge设置页面变样:更精简、打开更快
快科技2月16日消息,微软在Dev频道最新的134.0.3124.8版本中,对Edge的设置页面进行了重新设计。新版设置页面整体设计风格更加贴近谷歌Chrome浏览器
2025-02-16 12:23:00
洗脸熊携手IPTV平台,亮相央视春晚共庆阖家欢聚时刻
瑞蛇贺岁,欣欣向荣。2025年央视春晚,洗脸熊携手IPTV,重磅登陆2025年中央广播电视总台春节联欢晚会,与全国观众一同喜庆迎春
2025-02-16 12:58:00
跨越速运21机队+西部枢纽空侧联动,时效暴击碾压三流玩家
2月14日,跨越速运在西部航空枢纽空侧的启用仪式上迎来了历史性突破。同日,第21架全货机成功完成成都⇌无锡航线的首航任务
2025-02-16 13:02:00
你嫌弃的共享按摩椅,“躺”出了一个上市公司
带来身体放松的按摩或许是职场人的刚需,但共享按摩椅绝对不是。作者 | 黑莓编辑 | DR题图 | 视觉中国 任谁都没想到
2025-02-16 15:16:00
Intel面临拆分!博通、台积电都在考虑接手
快科技2月16日消息,据媒体报道,Intel的竞争对手博通和台积电,正在分别探索接手Intel部分业务的可能性。报道指出
2025-02-16 13:23:00
苏州工业园区提振消费促商贸高质量发展
2月13日,苏州工业园区举行提振消费暨商贸发展工作推进会,旨在探讨商贸业发展的新趋势、新机遇和新挑战,聚焦政策引导、消费提振策略
2025-02-16 13:49:00
商贸焕新升级在苏州工业园区“加速跑”
在苏州工业园区,多元化、品质化、个性化的各类商贸载体“加速跑”求新求变,展现区域商贸发展的缤纷百态。位居苏州工业园区金鸡湖西岸的苏州中心商场充分发挥苏州最大商业综合体的优势和能量
2025-02-16 13:50:00
苏州工业园区科技项目不断“更新”发展
近年来,苏州工业园区围绕创新药物、高端医疗器械、大健康等领域,持续加大支持力度,截至目前已集聚相关企业超2000家,产值规模突破1655亿元
2025-02-16 13:50:00
王炸级组合官宣!微信等腾讯旗下多个产品将接入DeepSeek:辐射14亿人
快科技2月16日消息,微信灰度测试接入DeepSeek之后,官方表示,腾讯旗下多个产品正探索接入。据央视消息,今日从腾讯集团了解到
2025-02-16 13:53:00
小女孩突然从路边窜出 问界M7 AEB紧急刹停救下一个家庭
快科技2月16日消息,近日,有问界M7车主发布了一段AEB实战救下一位小女孩的记录仪视频。视频中,这辆车在右侧车道正常行驶
2025-02-16 13:53:00