• 我的订阅
  • 头条热搜
Meta连甩AI加速大招 首推AI推理芯片 AI超算专供大模型训练
...急剧增长,Meta正执行一项宏伟计划——专为AI建设下一代基础设施。Meta公布了其为AI构建下一代基础设施的最新进展,包括首款用于运行AI模型的定制芯片、一个全新的AI优化数据中心设计、首款视频转码ASIC,以及集成16000块GPU...……更多
大模型步入推理Scaling时代,SambaNova如何挑战英伟达的霸主地位
...靠片上 SRAM 的数据流企业,用户需要支持大型语言模型的基础设施更少。例如,想在 Llama 70B 上推理,对于有些 AI 芯片来说需要五百多个芯片,或者相当于三百多个芯片的 4 个 wafer ,而 SambaNova 只需要 拥有 16 个芯片的 1 个机架...……更多
张云泉:集中力量,促进国产AI大模型发展
...“主权AI”的概念,并将其定义为“一个国家利用自己的基础设施、数据、劳动力和商业网络生产AI的能力”。“主权AI ”涵盖物理和数据基础设施,后者就包括“主权级基础大模型”——由当地团队开发,并在当地数据集上进...……更多
亚马逊连甩6款大模型!推出3nm AI训练芯片,最强AI服务器算力爆表
...域可用性高达99.999%,可扩展性几乎无限,而且无需管理基础设施,无需配置、修补或管理数据库实例。Aurora DSQL克服了分布式数据库的两个历史挑战——实现多区域低延迟强一致性,以及在全球范围内以微秒级精度同步服务器。...……更多
云计算一哥终于搞多模态了:一口气6个大模型,还有个3nm芯片!
...机,为实时计算提供支持。而这一次,从芯片到服务器,基础设施上一系列的更新动作,可以分为三大板块来看——计算(Compute)、存储(Storage)和数据库(Database)。在计算层面上,亚马逊云科技先是宣布Amazon EC2 Trn2实例正...……更多
阿里云重磅升级全栈AI体系,一文看懂云栖大会技术发布
...泳铭宣布阿里云重磅升级全栈AI体系,实现从AI大模型到AI基础设施的技术更新。面向新一轮智能革命,阿里云将全力打造成为全栈人工智能服务商。AI时代,大模型将是下一代操作系统,超级AI云是下一代计算机。吴泳铭认为,...……更多
16家头部大模型公司上海神秘碰头,现场人挤人人人
...键的三大层面,即:算力层:用于基础模型训练和推理的基础设施 模型层:使用基础模型加速生成式AI应用构建 应用层:开箱即用的生成式AI应用至于能力如何,我们直接来看下最为直观的效果。在生成式AI应用方面,亚马逊...……更多
...美元,输出为每百万Token1.68美元。事件前瞻 AI正加速成为基础设施DeepSeek在发布V3.1的同时官宣采用UE8M0FP8Scale参数精度,为下一代国产芯片的适配和自主可控AI生态建设奠定基础。FP8是把常规浮点格式压缩到8bit的编码方式,使模...……更多
IDC最新报告:2024中国AI基础设施市场份额,阿里云第一
7月1日,根据 IDC的最新报告,2024年中国AI基础设施(AI IaaS)市场份额,阿里云占比23%,位列中国市场第一,超过第二名和第三名总和;在生成式AI基础设施领域,阿里云取得模型训练和模型推理市场的双项冠军。AI IaaS 是以GPU等...……更多
亚马逊云科技,如何用AI再赢一次
...今年7月数据显示,2023年亚马逊云科技在全球公有云IaaS(基础设施)市场份额为39.0%,位居全球首位。十年后的今天,大模型是新的技术浪潮。“AI转型”替代“云转型”成了IT产业的新趋势。每一次IT技术变革,关键窗口期只有...……更多
AI行业深度研究:乘大模型之风,AI芯片元老寒武纪再度起航
... 72.6%。2024 年以来,政府与运营商也在积极部署构建算力基础设施。首先三大运营商陆续发布 大额招标,中国移动 2024-2025 年新型智算中心集采项目计划采购 7994 台人工智能服 务 器及配套产品;2024 年中国联通发布《2024 年中国...……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...。这也是为什么近年来国内外科技厂商纷纷布局 AI 算力基础设施,死磕万卡甚至 10 万卡集群。此外,大规模算力集群也越来越凸显训推一体的重要性,寻求在同一个集群中无缝切换大模型的训练和推理,简化用户部署流程。虽...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...层的“盖章”。10月8日,工信部等六部门联合印发《算力基础设施高质量发展行动计划》,计划提出,到2025年我国算力规模超过300EFLOPS(300百亿亿次浮点运算/秒),智能算力占比达到35%。而对比中国信通院数据,截至今年6月底...……更多
百度智能云两大基础设施再升级!打造AI时代最开放的智能基础设施
...裁、百度智能云事业群总裁沈抖分享了百度智能云在智能基础设施建设方面的最新成果,并在算力、模型及应用等方面发布一系列全新产品。大模型的高效落地亟需从底层算力到应用的全栈、系统级支撑——既需高性能硬件与集...……更多
英伟达公布未来三年芯片路线图,AI工厂有了操作系统;黄仁勋:算力会继续增长,机器人时代已来
...买了360万Blackwell芯片。黄仁勋提到,Blackwell刚开始出货,基础设施在惊人增长。“我预计到2028年数据中心的建设支出将达到1万亿美元,我相当确定会达到。”这得益于两个判断。一是计算方式的转变,通用计算已经走到了尽头...……更多
英特尔推出新款AI芯片:推理性能比英伟达H100快50%
...术,提供部署便利性、性能和价值。RAG可使企业在标准云基础设施上运行的大量现存专有数据源得到开放大语言模型(LLM)功能的增强,加速生成式AI在企业中的应用。进入4月以来,英特尔股价累计跌幅超过13%。外媒指出,新的...……更多
微软被曝未来3年花1000亿美金囤芯片;杨元庆:AI不是取代人类的智能|钛媒体AGI
...地应用的阶段。而落地的途径,就是涵盖智能设备、智能基础设施、智能解决方案和服务的三大支柱。开源大模型Llama3推出,百度智能云支持其全系列训练推理北京时间4月19日凌晨,Meta公布期待已久的多模态开源大模型Llama 3系...……更多
Oracle四季度125亿美元销售合同背后:OpenAI用上Oracle云,模型推理或是关键
...了“公司历史上最大的销售合同”,这主要归功于在OCI云基础设施业务上训练AI大型语言模型的巨大需求。这促使公司剩余履约合同(RPO)增长了44%,总额达到980亿美元。而仅在第四季度,Oracle就签订了超过30份AI销售合同,总价...……更多
Meta首次公布AI芯片细节 功耗低于英伟达
...亿个参数。Meta去年开启大规模裁员,并转而加大对AI技术基础设施的投资建设。不过,它没有就MTIA新型芯片的部署时间表发表评论。Meta承认,MTIA芯片在处理高复杂度AI模型时仍然面临挑战,但在处理中低复杂度模型时,比竞争...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...t Gelsinger)实际上,随着ChatGPT爆火,AI 模型、数据、算力基础设施成为生成式 AI 技术发展的三大要素。据Gartner数据显示,2024年,企业在生成式 AI 方向上预期支出达400亿美元,到2027年这一数据增至1510亿美元。与此同时,到2026...……更多
亚马逊云科技最强AI硬件猛兽背后,工程细节详细解读
...Invent上,亚马逊云科技(AWS)少见地公布了大量关于硬件基础设施及芯片的细节信息,包括自研服务器CPU Graviton系列、自研AI芯片Trainium系列、AI超级服务器、最大AI服务器集群等。这场开诚布公的分享,既让我们窥得这家全球最...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...满足大模型的“暴力”计算需求,国内GPU企业正加码算力基础设施建设。12月19日,摩尔线程首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心落地。据其介绍,这是国内首个以国产全功能GPU为底座的大规模算力集群。...……更多
价格便宜75%!亚马逊推出全新大模型系列,3纳米自研芯片明年上市
...等服务:“两家公司之间有着牢固的关系,(亚马逊的)基础设施既可靠,又能够为全球客户提供服务。” 据介绍,苹果正在使用AWS的定制AI芯片来实现搜索等服务。与英特尔和AMD的x86实例相比,苹果已经使用Amazon Graviton和Infere...……更多
燧原科技创新研究院院长、首席科学家姚建国教授:构建基础算力底座,推动国产算力发展|WISE2023颠覆AIGC产业发展峰会
...际创新体系相结合。最后,产业界的内部合作将加速算力基础设施落地商用,共同推动国产算力发展。燧原科技创新研究院院长、首席科学家姚建国教授以下为姚建国演讲实录(经36氪整理编辑):我本身在燧原科技和上海交大...……更多
...的潍柴、玉柴等还处于追赶地位。总之,在AIDC这种AI重要基础设施上,很多零部件还受制于人。AIDC需求爆发,给了国内厂商机会国内企业发展AI,必须用到AI基础设施。像字节、腾讯、阿里等互联网大厂加大了对AI基础设施的投...……更多
算力浪费超50%!百度AI计算部负责人拆解大模型时代的算力成本
...服务器,百度也是其中一员,该公司自2011年起涉足计算基础设施建设。然而,伴随深度学习的发展,GPU集群来到万卡规模,大模型时代的算力成本已经远高于人力成本。王雁鹏称,当下浪费仅仅1%的算力,也是很大的一笔花销,...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...物发现等领域提供行业标准API,使开发者能够利用在自己基础设施中的专有数据来快速构建AI应用,而不是在云服务器上运行。英伟达希望通过这些服务来吸引购买英伟达服务器的客户来注册英伟达企业版NVIDIA AI Enterprise 5.0,对...……更多
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...构 Semianalys 首席分析师 Dylan Patel 指出的,「对人工智能基础设施来说,系统能力比微架构更重要。」通俗来讲就是,芯片集群的算力比单块芯片的算力更重要。在大模型训练、推理的大规模计算之中,单块芯片计算完成后需要...……更多
本周(4.8-4.14)AI界发生了什么?
...员,讨论私营部门如何与各国合作,支持昂贵的大规模AI基础设施。“面壁智能”完成新一轮数亿元融资4月11日消息,面壁智能完成新一轮数亿元融资,由春华创投、华为哈勃领投,北京市人工智能产业投资基金等跟投,知乎作...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...开发人员能够专门访问构建和部署高级生成AI模型所需的基础设施和软件。英伟达表示,目前亚马逊、谷歌、微软和甲骨文等都已经成为了NVL72 机架的首批采购和服务提供商,其中亚马逊将构建一个包含20000个GB200芯片的服务器集...……更多
更多关于科技的资讯:
健康之旅,“媒”好同行!爱康集团烟威区域媒体开放日圆满结束
为构建与公众的沟通桥梁,让烟威人民更好地了解爱康的医疗品质及优质体检服务,9月25日下午爱康集团烟威区域媒体开放日活动于爱康莱山区分院成功举办
2025-10-01 20:51:00
人工智能不仅能分析人脸情绪,还能读取脑电波信号,为人定制香氛;恐龙变为AI数字虚拟形象,成为人们的“萌宠”——这不是科幻电影
2025-09-30 08:09:00
从线上学习到山水修行:简知文旅×简橙教育共同打造银发文旅的深度与温度
近日,长江三峡见证了一场别开生面的银发游学盛事。"三峡简橙号·年度盛典"游学项目在历时七天的精彩行程后圆满落下帷幕。该项目由简知科技旗下两大知名品牌"简知文旅"与"简橙教育"联合策划执行
2025-09-30 08:17:00
聊城智汇 链接全球丨锚定国际市场,力得汽车科技加速布局海外
齐鲁晚报·齐鲁壹点 国晓宁 崔宇晴走进山东力得汽车科技股份有限公司的生产车间,机器轰鸣声不绝于耳,一条条先进的生产线正有序运转
2025-09-30 09:20:00
国庆黄金周变身“家电焕新周”,三联家电门店人气爆棚
随着国庆与中秋双节同庆的长假来临,消费市场迎来了一年之中最炙手可热的“黄金销售季”。与以往不同的是,这个假期在旅游、探亲等传统主题之外
2025-09-30 09:22:00
壹点观察 | 蔚来城商业广场十一开业,德州商业格局再迎新变化
在商业竞争日益激烈的今天,一座全新的商业综合体——蔚来城商业广场,即将于十一正式开门迎客。它的到来,为德州商业市场增添了新的变化
2025-09-30 09:24:00
鲁网9月29日讯(记者 杨勇)秋分时节,聊城市莘县升鑫金属制品有限公司的生产车间内,员工工作紧张有序,各种机器设备高效运转
2025-09-30 10:04:00
Aritco与Dezeen联合举办设计论坛 共探\
苏州2024年9月16日 -- 近日,瑞典家用电梯品牌Aritco瑞特科与全球知名设计媒体Dezeen设志在苏州联合举办了一场主题为"摒弃风格
2025-09-30 10:18:00
小微企业在传统银行承兑汇票(简称“银承”)业务办理中常常面临诸多难题。企业需要多次往返银行网点,提交大量纸质材料,流程烦琐
2025-09-30 10:45:00
中国数据研究中心:中之杰荣膺月饼行业智造先锋奖榜首
9月28日,中国数据研究中心正式发布《2025中国月饼行业白皮书》及“2025中国月饼行业智造先锋奖”十强品牌榜单,吉林中之杰食品科技发展有限公司凭借其位于长春的智能新厂
2025-09-30 11:15:00
鲁网9月30日讯近日,省科技厅公布了2025年度科技型中小企业创新能力提升工程(先投后股类)项目名单,全市共4家企业入选
2025-09-30 11:16:00
浪潮海晏荣获2025年“数据要素×”大赛山东分赛决赛三等奖
近日,由国家数据局、山东省人民政府联合指导,山东省大数据局等21家单位联合主办的2025年“数据要素×”大赛山东分赛决赛获奖名单正式公布
2025-09-30 11:21:00
据人民日报报道,近期国家网信办指导多地网信部门,对微博、快手、小红书、今日头条等多家平台进行约谈,责令限期整改热搜热榜存在的问题
2025-09-30 12:33:00
朱琳:品牌要让Z世代体验“设计师”般的快感
齐鲁晚报·齐鲁壹点 记者 牟静萍 实习生 葛同同 当下,Z世代正在以其独特的消费观念、多元的兴趣取向和对精神体验的重视
2025-09-30 12:46:00
大皖新闻讯 算力作为数字经济时代的核心生产力,已成为城市竞争的关键赛道。“十四五”期间,芜湖紧抓“东数西算”国家战略机遇
2025-09-30 13:57:00