• 我的订阅
  • 头条热搜
近日,高通公司发布了新一代云AI推理加速卡——CloudAI100Ultra。这款产品专为生成式AI和大型语言模型而设计,提供相当于上一代产品四倍的性能。新款CloudAI100Ultra可部署的模型规模进一步扩大,单张150W的卡上可部署100B参数模...……更多
赋能产业互联网,高通量计算让世界更高效!
...的高倍智能视频压缩一体机、信创智能NAS存储、视频智能加速卡以及数字督察智能一体机等创新产品和应用,以及围绕高通量计算构建的产品布局和优势所在。中科通量此次在CITE2024展会上的展出也体现了公司在推动高通量计算进...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...款最热门产品的产能和需求,但据外媒报道,今年内H100加速卡的产能至少同比增长了3倍,且仍有许多产能瓶颈无法解决。比如台积电5nm生产线产能,英伟达的GPU必须使用台积电的CoWoS封装技术,市面上完全找不到别的替代品。...……更多
PC开启AI时代:行业要变天
...支持AI软件开发。或许仅从性能角度来看,可配备显卡、加速卡的工作站、台式机更胜一筹,但是多数用户手中的笔记本,特别是轻薄本,在体验方面更有看点。毕竟在PC端能够部署终端侧AI,而终端侧AI的优势可不仅是低时延、...……更多
高通参展MWC 2024,将展示5G开放式VRAN部署
...为满足现代网络需求,高通基础设施处理器与高通X1005GRAN加速卡配合使用,这一系统级解决方案能够为开放式vRAN部署实现最佳每瓦特性能,并简化成本结构;此外,高通利用突破性异构计算能力、集成式硬件加速器以及强大的5G...……更多
...英伟达2023年营收为552.68亿美元,同比增长105%,目前其AI加速卡的市场占有率超过80%,TrendForce集邦咨询认为H200,以及下一代B100/B200/GB200将继续推动英伟达营收快速增长。高通2023年营收达309.13亿美元(仅计算QCT),同比下降16%,...……更多
戴尔科技:夯实AI时代“算力底座”,让每一分算力“物尽其用”
...尔科技还与NVIDIA、Intel、AMD加强合作,打造就绪的下一代加速卡,未来戴尔科技还将采用Open Rack v3开放机柜,集成液冷组件,形成整机柜交付平台。第二,在智能维度,目前计算正从以CPU为核心的系统结构转向以AI为核心的异构...……更多
英伟达“骚操作”令人无语:为了抬价竟让显卡停产1个月?
...式AI恰恰需要基于海量的数据进行推理训练,高算力的GPU加速卡自然也成了市场的抢手货。根据FierceElectronics报道,ChatGPT目前需要用25000块英伟达A100GPU芯片来维持训练。大量公司同样需要基于英伟达的CUDA平台进行对AI的训练和推...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...B左右的内存,即使完全忽略内存消耗,也需要305张Groq LPU加速卡才够用。如果考虑到内存消耗,可能需要572张Groq LPU加速卡。官方数据显示,Groq LPU的平均功耗为185W,即使不计算外围设备的功耗,572张Groq LPU加速卡的总功耗也高...……更多
英特尔Lunar Lake「统一内存」,一切都是为了AI
... M 系列芯片就采用了统一内存架构,此外,英伟达的高端加速卡如 H100、B200 都是直接将内存(包括 HBM)焊在 GPU 和 CPU 旁边,封装成一个芯片。这样做的好处也非常明显,首先是可以显著提升数据传输速度和系统响应时间。内存...……更多
国产大模型第一梯队玩家,为什么pick了CPU?
...经验还表示: 不仅如此,利用充足的CPU资源,降低对于AI加速卡的需求,从而降低LLM推理服务的总体拥有成本(TCO),特别是在离线的LLM推理场景中表现出色。而且在千帆大模型平台上,可不止是有自家的ERNIE,还有很多主流的大...……更多
高通:人工智能只是一个红利
...者可以在高通Snapdragon Summit Keynote 2023上查看详细信息)。高通公司利用Oryon 系列芯片进军笔记本电脑也是如此。高通的骁龙数字底盘在汽车制造商中取得了一些重大胜利。最近几个季度,高通一直在直言不讳地表示,它看到了设...……更多
为了稳住RTX 4070价格,英伟达选择了断供的方法
...到了AI的机会,而这也引起了AI的军备竞赛,高算力的GPU加速卡自然成了抢手货,而NVIDIA在这方面也是霸主,此消彼长游戏卡的重要性自然下降。根据NVIDIA的财报,2023年1季度的时候,Nvidia的数据中心业务收益就已经超过了游戏显...……更多
昆仑芯ai加速卡r200完成相互兼容性测试认证
,昆仑芯科技宣布,近日,昆仑芯R200系列AI加速卡与OpenCloudOS8完成相互兼容性测试认证,兼容性表现良好。这是OpenCloudOS操作系统开源社区完成的首个兼容性测试验证。▲ 昆仑芯AI加速卡R200在测试中,基于昆仑芯提供的测试工...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...进行大幅提升。英伟达于2022年发布了基于Hopper架构的H100加速卡,而现在推出基于Blackwell的加速卡在性能上也得到了全面提升,更擅长处理AI相关任务。从外观来看,Blackwell GPU的体积明显大于H100,采用台积电的4纳米(4NP)工艺...……更多
发布一揽子新品,AMD再次挑战英伟达!但败局早已注定?
...列全新的产品,包括新一代的AI PC处理器、EPYC处理器、GPU加速卡等多款重磅产品。作为英伟达为数不多的友商,AMD对这一波新品寄予厚望,发布会还特意邀请了OpenAI、微软等巨头的大佬来站台,然而市场对其产品却不看好,其股...……更多
AMD公布全新AI加速卡路线图:CDNA 4架构明年见
如今AI大红大紫,英伟达也凭借着AI加速卡赚的是盆满钵满,这对于AMD来说实在是心痒痒,因此AMD也马不停蹄地公布了自家最新的AI加速卡路线图,未来的计算卡将会比英伟达B200更强,希望能够从英伟达口中夺得更多的市场份额...……更多
紧随NVIDIA每年一更新!AMD公布AI加速卡路线图:明年就出CDNA4架构
快科技6月3日消息,在Computex 2024上,AMD公布了其AI加速卡的全新路线图,展示了未来几年的产品更新计划。根据路线图,MI325X AI加速卡预计将于2024年第四季度发布,作为现有MI300系列的升级版,将采用与MI300系列相同的CDNA 3架构...……更多
让AI无处不在 高通全面开启终端侧生成式AI大门
...商的共识,具备十分光明的前景。正如在本届骁龙峰会上高通公司CEO安蒙所说的那样,“终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。”而“骁龙在助力塑造和把握终端侧生成式AI机遇...……更多
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
家10月22日消息,高通公司在今天举办的骁龙峰会上,推出了骁龙8至尊版移动平台,这是迄今为止高通最强大且全球速度最快的移动端系统级芯片。峰会首日,高通公司宣布和智谱、腾讯混元合作,共同推动端侧AI模型部署和落...……更多
戴尔以技术创新推动AI基础架构升级
...门针对GPU计算设计和优化,能支持英特尔等不同品牌的GPU加速卡,可满足不同应用场景的需求。“围绕AI 应用的GPU加速,戴尔科技能提供像GPU池化、GPU分布式训练、GPU集群管理和资源调度、边缘AI计算等GPU加速计算解决方案。”戴...……更多
高通自研CPU架构要上手机!软硬全家桶亮相China Joy,对话高管:解密生成式AI杀手锏
...经理阿力克斯·卡图赞(Alex Katouzian)进行了深入交流。高通公司全球副总裁侯明娟在今天的演讲中提到,高通从2018年开始参加China Joy,也是游戏手机这个品类的“发起者”,目前展出的产品和技术有350多个。今天,对于移动游...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...模型的性能需求,同时在成本上也是远低于那些高昂的AI加速卡。 英特尔表示,在使用2S 五代至强平台上运行GPT-J 6B模型(60亿参数),它可以实现在大约25毫秒下完成一个Token的处理。不过,对于运行更大的Llama 2 13B模型时,其...……更多
GPU训Llama 3.1疯狂崩溃,竟有大厂用CPU服务器跑千亿参数大模型?
...写带宽为437GB/s。这个数据,对于一些搭载GDDR显存的GPU或加速卡,可以说是毫不逊色。但仅靠硬件远远不够仅仅依靠硬件创新,是远远不够的,CPU很难进行大模型算法的大规模并行计算。正如开篇所述,大模型对通信带宽的要求...……更多
AMD发布最强AI芯片,对标英伟达Blackwell,2025年上市
... 300 系列处理器。 对标英伟达最强 AI 芯片:Instinct MI355X 加速卡最近,全球 AI 芯片供不应求,AMD 已成为 GPU 领域的重要玩家,今天该公司宣布了最新的 AI 加速器和用于 AI 基础设施的网络解决方案。具体而言,AMD 推出了 AMD Instin...……更多
amd旗舰aigpu加速器mi300x对比英伟达h100
...00高出60%。性能:AMD公司在演讲过程中,对比英伟达的H100加速卡,分享了MI300X的性能参数情况,IT之家附上数值如下:内存容量是H100的2.4倍内存带宽是H100的1.6倍FP8TFLOPS精度是H100的1.3倍FP16TFLOPS精度是H100的1.3倍在1v1比较中,训练L……更多
高通骁龙:端侧AI 启幕移动智能“芯”时代
在移动AI这条道路的探索上,高通既是启蒙者,又是见证者。无论是小米澎湃OS、OriginOS 4还是ColorOS 14,如果你关注过最近这段时间国内主流手机品牌集中发布的新版系统,会发现AI已经成为发布会PPT上“躲不开,绕不过”的关键...……更多
NPU IP累计出货超1亿颗!芯原股份一站式AI解决方案揭秘
...原IP的智慧家居设备等;基于芯原GPGPU IP和NPU IP的蓝洋智加速卡的高性能AI PC产品;基于芯原双通道图像信号处理器(ISP)IP的银牛视觉AI处理器等;芯原第二代数据中心视频转码平台解决方案等。编辑:芯智讯-浪客剑 ……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...位的可观测能力,对资源池、队列、节点、任务、实例、加速卡等多个维度实现了无死角的覆盖。 自动容错能力,百舸 Flash Checkpoint 故障恢复机制实现秒级 Checkpoint 和近乎无损的 Step 粒度容错。此外为 PyTorch 大模型训练场景开...……更多
国产GPU万卡集群终于来了!摩尔线程CEO张建中:做难而正确的事
...》中的夸娥氏二子那般不畏艰难,持之以恒,将一块块GPU加速卡垒成一个强大的计算集群。这是一套以全功能GPU为底座,软硬一体化、完整的系统级算力解决方案,包括以夸娥计算集群为核心的基础设施、夸娥集群管理平台(KUA...……更多
更多关于科技的资讯:
这种松鼠 拥有彩虹皮肤
我今天必须介绍一下这种松鼠,它们是非常独特、漂亮的哺乳动物。它是印度巨松鼠,生活在印度亚热带高地,体长可以长到一米,是世界上最大的松鼠
2024-11-04 00:37:00
PS5 Pro偷跑拆解:GPU规模飙升!内存增加2GB DDR5
快科技11月3日消息,史上最贵游戏机PS5 Pro即将发售,有海外博主提前搞到一台,二话不说就给拆了,发现了一些意想不到的变化
2024-11-04 00:37:00
佳能公布rf-s7.8mmf4stmdual镜头完整规格
11月3日消息,佳能公司现已公布了RF-S7.8mmF4STMDual镜头的完整规格,这款镜头主要用于帮助内容创作者拍摄3DVR视频(如MetaQuest3等头戴设备内容)以及AppleVisionPro的空间视频
2024-11-04 00:40:00
抖音vr直播更名“抖音xr”,新增mr模式开关
11月3日消息,据PICO官方消息,抖音VR直播现正式更名“抖音XR”,支持横屏/竖屏/全景观看视频、新增MR模式开关等功能
2024-11-04 00:41:00
苹果公司调整appletv+季票价格
11月3日消息,苹果公司现已调整AppleTV+平台2024年美国职业足球大联盟赛事季票(MLS季票)价格,相关季票原价为14
2024-11-04 00:44:00
华为手机8.8折升级内存服务延期至2025年3月31日
11月3日消息,日前,华为宣布,华为手机8.8折升级内存(存储空间)服务延期至2025年3月31日(原结束时间为2024年10月31日)
2024-11-04 01:14:00
苹果发布2024款macmini与imac
11月3日消息,苹果本周发布了2024款Macmini与iMac,均搭载M4系列芯片。据此前报道,在苹果官网的70/96/140WUSB-C电源适配器的兼容性列表中显示有两款最新的Macmini与iMac
2024-11-04 01:37:00
realme真我gt7pro配备水陆双栖超光影潜望
11月3日消息,真我手机今日发文宣布,realme真我GT7Pro将支持 IP68&IP69防尘防水(官方宣称真我首次支持IP68&
2024-11-04 02:38:00
三星正在测试oneui7“通知摘要”功能
11月3日消息,消息源@Chunvn8888在X平台发文透露三星正在为OneUI7测试基于AI的“通知摘要”功能,该功能整体类似苹果在iOS18中推出的相关特性
2024-11-04 02:43:00
小米15还没热,redmik80就迫不及待地要来凑热闹了!
小米15还热乎着呢,RedmiK80就迫不及待地要来凑热闹了!这兄弟俩,一个高端大气上档次,一个亲民接地气,真是相爱相杀
2024-11-04 02:52:00
v社为quest版steamlink推出更新,支持手部追踪
11月3日消息,V社现已为Quest版SteamLink推出更新,为Quest3/3S/Pro用户带来了手部跟踪功能。▲图源V社官方新闻稿IT之家获悉
2024-11-04 03:38:00
任天堂switchlabovr专利通过审核
11月3日消息,任天堂在日本申请的一项新专利现已通过专利局审核,该专利显示任天堂将为旗下Switch游戏机推出一款新的VR外设
2024-11-04 03:39:00
苹果官网近期将上架贝尔金头带
11月3日消息,消息源@BradLynch在X平台透露苹果官网近期将上架适用于VisionPro头显的第三方品牌贝尔金头带
2024-11-04 03:41:00
普渡机器人发布11自由度五指灵巧手,基于仿人五指设计
11月3日消息,继今年9月发布旗下首款类人形机器人PUDUD7后,普渡机器人于10月31日发布11自由度五指灵巧手PUDUDH11
2024-11-04 03:45:00
机器“小蛇”一米二 灵活避障会导航亮相东南大学大学生创新成果展示会,可用于地震救灾、南极勘探等领域南报网讯(记者何洁实习生曹永茜)模拟蛇形步态
2024-11-04 07:47:00