• 我的订阅
  • 头条热搜
近日,高通公司发布了新一代云AI推理加速卡——CloudAI100Ultra。这款产品专为生成式AI和大型语言模型而设计,提供相当于上一代产品四倍的性能。新款CloudAI100Ultra可部署的模型规模进一步扩大,单张150W的卡上可部署100B参数模...……更多
赋能产业互联网,高通量计算让世界更高效!
...的高倍智能视频压缩一体机、信创智能NAS存储、视频智能加速卡以及数字督察智能一体机等创新产品和应用,以及围绕高通量计算构建的产品布局和优势所在。中科通量此次在CITE2024展会上的展出也体现了公司在推动高通量计算进...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...款最热门产品的产能和需求,但据外媒报道,今年内H100加速卡的产能至少同比增长了3倍,且仍有许多产能瓶颈无法解决。比如台积电5nm生产线产能,英伟达的GPU必须使用台积电的CoWoS封装技术,市面上完全找不到别的替代品。...……更多
PC开启AI时代:行业要变天
...支持AI软件开发。或许仅从性能角度来看,可配备显卡、加速卡的工作站、台式机更胜一筹,但是多数用户手中的笔记本,特别是轻薄本,在体验方面更有看点。毕竟在PC端能够部署终端侧AI,而终端侧AI的优势可不仅是低时延、...……更多
高通参展MWC 2024,将展示5G开放式VRAN部署
...为满足现代网络需求,高通基础设施处理器与高通X1005GRAN加速卡配合使用,这一系统级解决方案能够为开放式vRAN部署实现最佳每瓦特性能,并简化成本结构;此外,高通利用突破性异构计算能力、集成式硬件加速器以及强大的5G...……更多
...英伟达2023年营收为552.68亿美元,同比增长105%,目前其AI加速卡的市场占有率超过80%,TrendForce集邦咨询认为H200,以及下一代B100/B200/GB200将继续推动英伟达营收快速增长。高通2023年营收达309.13亿美元(仅计算QCT),同比下降16%,...……更多
戴尔科技:夯实AI时代“算力底座”,让每一分算力“物尽其用”
...尔科技还与NVIDIA、Intel、AMD加强合作,打造就绪的下一代加速卡,未来戴尔科技还将采用Open Rack v3开放机柜,集成液冷组件,形成整机柜交付平台。第二,在智能维度,目前计算正从以CPU为核心的系统结构转向以AI为核心的异构...……更多
英伟达“骚操作”令人无语:为了抬价竟让显卡停产1个月?
...式AI恰恰需要基于海量的数据进行推理训练,高算力的GPU加速卡自然也成了市场的抢手货。根据FierceElectronics报道,ChatGPT目前需要用25000块英伟达A100GPU芯片来维持训练。大量公司同样需要基于英伟达的CUDA平台进行对AI的训练和推...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...B左右的内存,即使完全忽略内存消耗,也需要305张Groq LPU加速卡才够用。如果考虑到内存消耗,可能需要572张Groq LPU加速卡。官方数据显示,Groq LPU的平均功耗为185W,即使不计算外围设备的功耗,572张Groq LPU加速卡的总功耗也高...……更多
英特尔Lunar Lake「统一内存」,一切都是为了AI
... M 系列芯片就采用了统一内存架构,此外,英伟达的高端加速卡如 H100、B200 都是直接将内存(包括 HBM)焊在 GPU 和 CPU 旁边,封装成一个芯片。这样做的好处也非常明显,首先是可以显著提升数据传输速度和系统响应时间。内存...……更多
国产大模型第一梯队玩家,为什么pick了CPU?
...经验还表示: 不仅如此,利用充足的CPU资源,降低对于AI加速卡的需求,从而降低LLM推理服务的总体拥有成本(TCO),特别是在离线的LLM推理场景中表现出色。而且在千帆大模型平台上,可不止是有自家的ERNIE,还有很多主流的大...……更多
高通:人工智能只是一个红利
...者可以在高通Snapdragon Summit Keynote 2023上查看详细信息)。高通公司利用Oryon 系列芯片进军笔记本电脑也是如此。高通的骁龙数字底盘在汽车制造商中取得了一些重大胜利。最近几个季度,高通一直在直言不讳地表示,它看到了设...……更多
为了稳住RTX 4070价格,英伟达选择了断供的方法
...到了AI的机会,而这也引起了AI的军备竞赛,高算力的GPU加速卡自然成了抢手货,而NVIDIA在这方面也是霸主,此消彼长游戏卡的重要性自然下降。根据NVIDIA的财报,2023年1季度的时候,Nvidia的数据中心业务收益就已经超过了游戏显...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...进行大幅提升。英伟达于2022年发布了基于Hopper架构的H100加速卡,而现在推出基于Blackwell的加速卡在性能上也得到了全面提升,更擅长处理AI相关任务。从外观来看,Blackwell GPU的体积明显大于H100,采用台积电的4纳米(4NP)工艺...……更多
昆仑芯ai加速卡r200完成相互兼容性测试认证
,昆仑芯科技宣布,近日,昆仑芯R200系列AI加速卡与OpenCloudOS8完成相互兼容性测试认证,兼容性表现良好。这是OpenCloudOS操作系统开源社区完成的首个兼容性测试验证。▲ 昆仑芯AI加速卡R200在测试中,基于昆仑芯提供的测试工...……更多
AMD公布全新AI加速卡路线图:CDNA 4架构明年见
如今AI大红大紫,英伟达也凭借着AI加速卡赚的是盆满钵满,这对于AMD来说实在是心痒痒,因此AMD也马不停蹄地公布了自家最新的AI加速卡路线图,未来的计算卡将会比英伟达B200更强,希望能够从英伟达口中夺得更多的市场份额...……更多
紧随NVIDIA每年一更新!AMD公布AI加速卡路线图:明年就出CDNA4架构
快科技6月3日消息,在Computex 2024上,AMD公布了其AI加速卡的全新路线图,展示了未来几年的产品更新计划。根据路线图,MI325X AI加速卡预计将于2024年第四季度发布,作为现有MI300系列的升级版,将采用与MI300系列相同的CDNA 3架构...……更多
让AI无处不在 高通全面开启终端侧生成式AI大门
...商的共识,具备十分光明的前景。正如在本届骁龙峰会上高通公司CEO安蒙所说的那样,“终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。”而“骁龙在助力塑造和把握终端侧生成式AI机遇...……更多
戴尔以技术创新推动AI基础架构升级
...门针对GPU计算设计和优化,能支持英特尔等不同品牌的GPU加速卡,可满足不同应用场景的需求。“围绕AI 应用的GPU加速,戴尔科技能提供像GPU池化、GPU分布式训练、GPU集群管理和资源调度、边缘AI计算等GPU加速计算解决方案。”戴...……更多
高通自研CPU架构要上手机!软硬全家桶亮相China Joy,对话高管:解密生成式AI杀手锏
...经理阿力克斯·卡图赞(Alex Katouzian)进行了深入交流。高通公司全球副总裁侯明娟在今天的演讲中提到,高通从2018年开始参加China Joy,也是游戏手机这个品类的“发起者”,目前展出的产品和技术有350多个。今天,对于移动游...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...模型的性能需求,同时在成本上也是远低于那些高昂的AI加速卡。 英特尔表示,在使用2S 五代至强平台上运行GPT-J 6B模型(60亿参数),它可以实现在大约25毫秒下完成一个Token的处理。不过,对于运行更大的Llama 2 13B模型时,其...……更多
GPU训Llama 3.1疯狂崩溃,竟有大厂用CPU服务器跑千亿参数大模型?
...写带宽为437GB/s。这个数据,对于一些搭载GDDR显存的GPU或加速卡,可以说是毫不逊色。但仅靠硬件远远不够仅仅依靠硬件创新,是远远不够的,CPU很难进行大模型算法的大规模并行计算。正如开篇所述,大模型对通信带宽的要求...……更多
amd旗舰aigpu加速器mi300x对比英伟达h100
...00高出60%。性能:AMD公司在演讲过程中,对比英伟达的H100加速卡,分享了MI300X的性能参数情况,IT之家附上数值如下:内存容量是H100的2.4倍内存带宽是H100的1.6倍FP8TFLOPS精度是H100的1.3倍FP16TFLOPS精度是H100的1.3倍在1v1比较中,训练L……更多
高通骁龙:端侧AI 启幕移动智能“芯”时代
在移动AI这条道路的探索上,高通既是启蒙者,又是见证者。无论是小米澎湃OS、OriginOS 4还是ColorOS 14,如果你关注过最近这段时间国内主流手机品牌集中发布的新版系统,会发现AI已经成为发布会PPT上“躲不开,绕不过”的关键...……更多
NPU IP累计出货超1亿颗!芯原股份一站式AI解决方案揭秘
...原IP的智慧家居设备等;基于芯原GPGPU IP和NPU IP的蓝洋智加速卡的高性能AI PC产品;基于芯原双通道图像信号处理器(ISP)IP的银牛视觉AI处理器等;芯原第二代数据中心视频转码平台解决方案等。编辑:芯智讯-浪客剑 ……更多
国产GPU万卡集群终于来了!摩尔线程CEO张建中:做难而正确的事
...》中的夸娥氏二子那般不畏艰难,持之以恒,将一块块GPU加速卡垒成一个强大的计算集群。这是一套以全功能GPU为底座,软硬一体化、完整的系统级算力解决方案,包括以夸娥计算集群为核心的基础设施、夸娥集群管理平台(KUA...……更多
高性能HBM显存芯片:被韩国企业垄断了
...HBM3,并更广泛地应用在游戏显卡、专业显卡、数据中心加速卡、AI推理显卡等诸多领域。来自TrendForce集邦咨询18日发布的报告显示,2022年三大原厂HBM市占率分别为SK海力士(SK hynix)50%、三星(Samsung)约40%、美光(Micron)约10%。...……更多
国产GPU为底座,摩尔线程首个千卡智算中心落地
...程CEO张建中在主题演讲中带来新品发布,包括大模型智算加速卡MTT S4000,以及专为千亿参数大模型训练和推理提供强大支持的摩尔线程KUAE平台。第三代MUSA内核据介绍,摩尔线程大模型智算加速卡MTT S4000,采用第三代MUSA内核,单...……更多
高通推出骁龙xelitepc平台新品
...有高达45TOPS的强大算力,是计算平台中最强大的NPU。正如高通公司总裁兼CEO安蒙不久前在联想创新科技大会上所说的:骁龙XElite是面向终端侧和混合AI的领先平台。凭借高达45TOPS的算力,它为PC带来全球最快的NPU。此外,它还拥...……更多
...略不是未来我要做什么,而是我们现在做什么才有未来。高通公司现在的定位是一家人工智能公司,此前定位是一家创新型公司。我们当时有一项CDMA技术,在20世纪90年代获得了成功。成功以后,我们开始做CDMA芯片,包括通信芯...……更多
更多关于科技的资讯:
华为6100mAh新机,1.5k双曲屏+轻薄星环设计,高端质感仅1999元
华为手机的技术实力很强,在国产手机中属于是比较独特的,拥有多项自研发黑科技,甚至有独立的芯片和系统,因此很多人都非常青睐华为手机
2024-08-10 13:52:00
荣耀悄然开卖新机,20GB+十面抗摔+512GB,仅售1399元起
人的精力是有限的,当短期内涌入过量信息的时候,会自然而然的挑选重点,而这段时间的手机行业中诞生了很多重磅新机,华为和小米均发布了折叠屏新机
2024-08-10 13:52:00
小米有大瓜,苹果腾讯起争议,华为有新机
虽然近一周新机有点少,但机圈的大事却不少,很多还成功被推上热搜成为全网热议的焦点。小米的乌龙瓜有细心的网友发现小米原MIUI负责人
2024-08-10 13:52:00
米兔7A儿童手表:20米防水+9重定位,出游更安心
随着暑假的来临,家长们纷纷计划着带娃出游,享受一段美好的亲子时光。然而,在游玩的过程中,孩子的安全问题始终是家长们最牵挂的
2024-08-10 13:53:00
咪鼠M4 AI鼠标:简约而不简单,商务办公必备神器!
在数字化办公日益普及的今天,一款高效、智能的鼠标已经成为商务办公环境中不可或缺的设备。然而,面对市场上琳琅满目的鼠标产品
2024-08-10 13:53:00
小米15:小屏党的终极福音!5500mAh超大电池+顶级芯片
在这个科技飞速发展的时代,智能手机市场的竞争愈发激烈。各大厂商纷纷推出自家的高端旗舰,争夺消费者的目光。近日,小米15这款备受期待的小屏旗舰手机终于曝光了部分配置
2024-08-10 13:53:00
颠覆千元机格局!华为畅享70S/60X来袭,性价比秒杀红米!
近年来,华为作为国内科技巨头,其品牌影响力不断提升。然而,高价策略也让不少用户望而却步。不过,华为近期推出的两款千元机——华为畅享70S和华为畅享60X
2024-08-10 13:54:00
LG CineBeam Q 4K投影仪:三色激光技术
曾经幻想过和朋友们一起露营,带上投影仪享受户外电影的美好时光?现在,这一切都变得如此简单!感谢科技的力量,LGCineBeamQ4K三色激光投影仪的出现
2024-08-10 13:54:00
西圣H1头戴耳机评测:百元也能享高端?
在这个追求品质生活的时代,音乐发烧友和生活品质追求者们总是渴望拥有一款音质卓越且降噪效果出色的头戴耳机。然而,对于广大学生党和预算有限的消费者来说
2024-08-10 13:54:00
杜伽K310机械键盘新体验:樱桃轴加持,清新来袭!
在机械键盘的世界里,品牌和产品的选择琳琅满目,但对于外设爱好者来说,杜伽(DURGOD)无疑是一个让人信赖的名字。今天
2024-08-10 13:54:00
百元也能享受主动降噪?山灵MTW60:音质炸裂,颜值爆表!
在这个快节奏的时代,音乐成为了我们解压的最佳方式。一款优秀的耳机,不仅要有出色的音质,更要具备便携性和多功能性。今天,我要为大家种草一款性价比极高的真无线耳机——山灵MTW60
2024-08-10 13:54:00
贝锐蒲公英R300A来袭!工业级设计,恶劣环境也能稳定联网!
说起路由器,大家脑海里可能立马浮现出“千兆、万兆、带机量、内存组合”这些家用路由器的选购关键词。然而,在家居室内环境下使用得心应手的它们
2024-08-10 13:55:00
8月换机指南:三款高性价比“零差评”手机,价格低至冰点!
随着手机市场的日益繁荣,各大品牌纷纷推出了众多机型,让人眼花缭乱。然而,在这个8月,有三款手机凭借其出色的性能和超高的性价比脱颖而出
2024-08-10 13:55:00
华为nova12活力版:512GB大存储+极致轻薄设计
近年来,华为手机的遭遇确实令人唏嘘。曾几何时,华为在全球手机市场中的销量一度超越三星,成为全球销量第一的手机品牌。然而
2024-08-10 13:55:00
1199元买华为?畅享70S搭载骁龙680+鸿蒙4.0
华为手机,作为国内手机市场的巨头,一直以来都备受关注。然而,近年来华为手机的价格却让不少消费者望而却步,高端机型售价高昂
2024-08-10 13:55:00