• 我的订阅
  • 头条热搜
Meta连甩AI加速大招 首推AI推理芯片 AI超算专供大模型训练
...急剧增长,Meta正执行一项宏伟计划——专为AI建设下一代基础设施。Meta公布了其为AI构建下一代基础设施的最新进展,包括首款用于运行AI模型的定制芯片、一个全新的AI优化数据中心设计、首款视频转码ASIC,以及集成16000块GPU...……更多
从狂热到理性:大模型训练三堵墙,一场少数人的游戏 | 钛媒体深度
...型的厂商,无一例外在AI领域都有足够积累,特别是底层基础设施层面,他们的实践也在验证“云是规模算力的最佳承载平台”这一判断。“为了打造AI超级计算机,微软早在2018年就开始布局,除了OpenAI还投资了几个小公司,大...……更多
大模型步入推理Scaling时代,SambaNova如何挑战英伟达的霸主地位
...靠片上 SRAM 的数据流企业,用户需要支持大型语言模型的基础设施更少。例如,想在 Llama 70B 上推理,对于有些 AI 芯片来说需要五百多个芯片,或者相当于三百多个芯片的 4 个 wafer ,而 SambaNova 只需要 拥有 16 个芯片的 1 个机架...……更多
张云泉:集中力量,促进国产AI大模型发展
...“主权AI”的概念,并将其定义为“一个国家利用自己的基础设施、数据、劳动力和商业网络生产AI的能力”。“主权AI ”涵盖物理和数据基础设施,后者就包括“主权级基础大模型”——由当地团队开发,并在当地数据集上进...……更多
谷歌推出第五代AI芯片:训练和运行AI模型的速度提高5倍
...了5倍。据科技媒体TechCrunch报道,谷歌云计算和机器学习基础设施副总裁兼总经理马克·洛迈尔(Mark Lohmeyer) 表示,“这是迄今为止最具成本效益且易于访问的云TPU。” 洛迈尔强调,谷歌云确保用户能够将其TPU集群扩展到以前...……更多
特斯拉,不仅仅是芯片
...式发展的秘诀。特斯拉目前拥有非常少量的内部人工智能基础设施,只有约 4000 个 V100 和约 16000 个 A100。与世界上其他大型科技公司相比,这个数字非常小,因为 Microsoft 和 Meta 等公司拥有超过 10 万个 GPU,而且他们希望在中短...……更多
GPT-4被破解 训练成本 模型架构的秘密都被挖出来了?
...-4 的信息,今天我们想分享一下。这包括模型架构、训练基础设施、推理基础设施、参数计数、训练数据集组成、令牌计数、层数、并行策略、多模态视觉适应、不同工程权衡背后的思维过程、独特的实施技术以及它们如何减轻...……更多
亚马逊连甩6款大模型!推出3nm AI训练芯片,最强AI服务器算力爆表
...域可用性高达99.999%,可扩展性几乎无限,而且无需管理基础设施,无需配置、修补或管理数据库实例。Aurora DSQL克服了分布式数据库的两个历史挑战——实现多区域低延迟强一致性,以及在全球范围内以微秒级精度同步服务器。...……更多
云计算一哥终于搞多模态了:一口气6个大模型,还有个3nm芯片!
...机,为实时计算提供支持。而这一次,从芯片到服务器,基础设施上一系列的更新动作,可以分为三大板块来看——计算(Compute)、存储(Storage)和数据库(Database)。在计算层面上,亚马逊云科技先是宣布Amazon EC2 Trn2实例正...……更多
阿里云重磅升级全栈AI体系,一文看懂云栖大会技术发布
...泳铭宣布阿里云重磅升级全栈AI体系,实现从AI大模型到AI基础设施的技术更新。面向新一轮智能革命,阿里云将全力打造成为全栈人工智能服务商。AI时代,大模型将是下一代操作系统,超级AI云是下一代计算机。吴泳铭认为,...……更多
16家头部大模型公司上海神秘碰头,现场人挤人人人
...键的三大层面,即:算力层:用于基础模型训练和推理的基础设施 模型层:使用基础模型加速生成式AI应用构建 应用层:开箱即用的生成式AI应用至于能力如何,我们直接来看下最为直观的效果。在生成式AI应用方面,亚马逊...……更多
...美元,输出为每百万Token1.68美元。事件前瞻 AI正加速成为基础设施DeepSeek在发布V3.1的同时官宣采用UE8M0FP8Scale参数精度,为下一代国产芯片的适配和自主可控AI生态建设奠定基础。FP8是把常规浮点格式压缩到8bit的编码方式,使模...……更多
IDC最新报告:2024中国AI基础设施市场份额,阿里云第一
7月1日,根据 IDC的最新报告,2024年中国AI基础设施(AI IaaS)市场份额,阿里云占比23%,位列中国市场第一,超过第二名和第三名总和;在生成式AI基础设施领域,阿里云取得模型训练和模型推理市场的双项冠军。AI IaaS 是以GPU等...……更多
亚马逊云科技,如何用AI再赢一次
...今年7月数据显示,2023年亚马逊云科技在全球公有云IaaS(基础设施)市场份额为39.0%,位居全球首位。十年后的今天,大模型是新的技术浪潮。“AI转型”替代“云转型”成了IT产业的新趋势。每一次IT技术变革,关键窗口期只有...……更多
AI行业深度研究:乘大模型之风,AI芯片元老寒武纪再度起航
... 72.6%。2024 年以来,政府与运营商也在积极部署构建算力基础设施。首先三大运营商陆续发布 大额招标,中国移动 2024-2025 年新型智算中心集采项目计划采购 7994 台人工智能服 务 器及配套产品;2024 年中国联通发布《2024 年中国...……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...。这也是为什么近年来国内外科技厂商纷纷布局 AI 算力基础设施,死磕万卡甚至 10 万卡集群。此外,大规模算力集群也越来越凸显训推一体的重要性,寻求在同一个集群中无缝切换大模型的训练和推理,简化用户部署流程。虽...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...层的“盖章”。10月8日,工信部等六部门联合印发《算力基础设施高质量发展行动计划》,计划提出,到2025年我国算力规模超过300EFLOPS(300百亿亿次浮点运算/秒),智能算力占比达到35%。而对比中国信通院数据,截至今年6月底...……更多
AI大算力芯片行业报告:百舸争流,创新者先
...意见,加快计算中心、算力中心、工业互联网、物联网等基础设施建设。基于国家与地方政府相关政策指引,AI厂商们纷纷建立起超算/智算中心,较于以往不同的是,今年算力的首个市场化运作模式诞生,智算中心算力的规模也...……更多
百度智能云两大基础设施再升级!打造AI时代最开放的智能基础设施
...裁、百度智能云事业群总裁沈抖分享了百度智能云在智能基础设施建设方面的最新成果,并在算力、模型及应用等方面发布一系列全新产品。大模型的高效落地亟需从底层算力到应用的全栈、系统级支撑——既需高性能硬件与集...……更多
卷模型技术,更要卷工程实现
...开源,模型间的技术壁垒有望进一步消除,如何降低 AI 基础设施和模型实施的成本将成为企业、团队和个人开发者关切的话题。这要求企业对人工智能技术有全面的认识,并对自身的基础设施和研发流程做出调整、优化,甚至...……更多
英伟达公布未来三年芯片路线图,AI工厂有了操作系统;黄仁勋:算力会继续增长,机器人时代已来
...买了360万Blackwell芯片。黄仁勋提到,Blackwell刚开始出货,基础设施在惊人增长。“我预计到2028年数据中心的建设支出将达到1万亿美元,我相当确定会达到。”这得益于两个判断。一是计算方式的转变,通用计算已经走到了尽头...……更多
“AIGC智算之道”圆桌对话: 浪潮信息+百川+快手+金山办公
...会面临算力的瓶颈、算力的压力,大家期待什么样的算力基础设施来支撑大模型的创新和应用?刘军:从浪潮信息的角度,首先是全力做好算力供给保障工作,在算力供应紧张的背景下,如何构建具备更高生产力的算力系统,成为行业关...……更多
英特尔推出新款AI芯片:推理性能比英伟达H100快50%
...术,提供部署便利性、性能和价值。RAG可使企业在标准云基础设施上运行的大量现存专有数据源得到开放大语言模型(LLM)功能的增强,加速生成式AI在企业中的应用。进入4月以来,英特尔股价累计跌幅超过13%。外媒指出,新的...……更多
微软被曝未来3年花1000亿美金囤芯片;杨元庆:AI不是取代人类的智能|钛媒体AGI
...地应用的阶段。而落地的途径,就是涵盖智能设备、智能基础设施、智能解决方案和服务的三大支柱。开源大模型Llama3推出,百度智能云支持其全系列训练推理北京时间4月19日凌晨,Meta公布期待已久的多模态开源大模型Llama 3系...……更多
Oracle四季度125亿美元销售合同背后:OpenAI用上Oracle云,模型推理或是关键
...了“公司历史上最大的销售合同”,这主要归功于在OCI云基础设施业务上训练AI大型语言模型的巨大需求。这促使公司剩余履约合同(RPO)增长了44%,总额达到980亿美元。而仅在第四季度,Oracle就签订了超过30份AI销售合同,总价...……更多
Meta首次公布AI芯片细节 功耗低于英伟达
...亿个参数。Meta去年开启大规模裁员,并转而加大对AI技术基础设施的投资建设。不过,它没有就MTIA新型芯片的部署时间表发表评论。Meta承认,MTIA芯片在处理高复杂度AI模型时仍然面临挑战,但在处理中低复杂度模型时,比竞争...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...t Gelsinger)实际上,随着ChatGPT爆火,AI 模型、数据、算力基础设施成为生成式 AI 技术发展的三大要素。据Gartner数据显示,2024年,企业在生成式 AI 方向上预期支出达400亿美元,到2027年这一数据增至1510亿美元。与此同时,到2026...……更多
亚马逊云科技最强AI硬件猛兽背后,工程细节详细解读
...Invent上,亚马逊云科技(AWS)少见地公布了大量关于硬件基础设施及芯片的细节信息,包括自研服务器CPU Graviton系列、自研AI芯片Trainium系列、AI超级服务器、最大AI服务器集群等。这场开诚布公的分享,既让我们窥得这家全球最...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...满足大模型的“暴力”计算需求,国内GPU企业正加码算力基础设施建设。12月19日,摩尔线程首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心落地。据其介绍,这是国内首个以国产全功能GPU为底座的大规模算力集群。...……更多
价格便宜75%!亚马逊推出全新大模型系列,3纳米自研芯片明年上市
...等服务:“两家公司之间有着牢固的关系,(亚马逊的)基础设施既可靠,又能够为全球客户提供服务。” 据介绍,苹果正在使用AWS的定制AI芯片来实现搜索等服务。与英特尔和AMD的x86实例相比,苹果已经使用Amazon Graviton和Infere...……更多
更多关于科技的资讯:
中新经纬10月31日电 国家发展改革委政策研究室副主任、新闻发言人李超表示,鼓励小、散、低效的存量算力设施向集约化、高效率转变
2025-10-31 13:34:00
企业选型终极指南:基于预算与行业,中国GEO服务商推荐(附TOP10指标对比)
在AI重构流量分配规则的2025年,生成式AI搜索优化(GEO)已成为企业不可或缺的战略投入。然而,面对市场上众多的GEO服务商
2025-10-31 11:00:00
增压好的热水器推荐:万和多款热水器待你选择
在城镇化加速与高层住宅普及的当下,老旧小区管道老化、高层建筑水压衰减等问题愈发突出,不少家庭正遭受 “细流澡”“忽冷忽热” 的沐浴困扰
2025-10-30 08:16:00
创新,是让世界重新认识中国制造
“创新”,这个词我们每天都在说。要让世界记住中国制造的创新,一定是要让人们能看得见、记得住、感受到。我给大家分享几个小故事
2025-10-30 08:35:00
河北日报讯(记者孙青)为激发青年创业活力,点燃青年创业梦想,日前,团石家庄市委正式启动“青年创业训练营——青年小店孵化计划”
2025-10-30 08:36:00
当故宫的红墙金瓦凝缩成书签的精致纹路,当敦煌的飞天壁画跃然咖啡杯的杯身,博物馆中的千年文明正通过文创产品打开新的传承通道
2025-10-30 08:44:00
校宝智慧校园发布招生智能化解决方案,为民办教育注入增长新动能
2025年10月29日,校宝智慧校园正式推出面向民办、国际化学校的招生智能化解决方案,包含流量获取、线索转化、组织建设与数据决策四大核心板块
2025-10-30 09:10:00
Soul App开源播客语音合成模型SoulX-Podcast,支持流畅自然多轮语音对话
近日,Soul App AI团队(Soul AI Lab)正式开源播客语音合成模型SoulX-Podcast。该模型是一款专为多人
2025-10-30 09:10:00
服务效能持续提升 中老年多元化保障需求凸显近日,中宏保险正式发布了《2025年第三季度中宏保险个险理赔服务报告》(以下简称"报告")
2025-10-30 09:10:00
AI+人工双核验:深瞳查重如何以精准核查守护科研诚信
在科研诚信日益重要的今天,图片查重已成为维护科研诚信的关键环节手段。作为国内首家推出图片查重服务的深瞳查重,深瞳查重始终将结果的准确性和可靠性放在首位
2025-10-30 09:10:00
德明利亮相安博会,推出面向智能安防的多维度存储解决方案
10月28日,深圳CPSE安博会在福田会展中心顺利开幕,展会聚焦AI与大数据的智能安防创新。德明利携工业级存储产品及多维矩阵方案亮相
2025-10-30 09:10:00
碧欧宝亮相2025德国品牌周,于外滩百年地标演绎德式健康美学
2025年10月23日,由德国工商总会主办的“Discover Germany 德国品牌周”在外滩百年地标老市府隆重启幕
2025-10-30 10:10:00
留学常用APP与交友软件推荐:学习、生活、社交一站式搞定
即将远赴海外求学,除了收拾行囊,在手机里提前装好实用的留学APP,也成了许多准留学生的必备功课。面对应用商店里海量的留学常用APP选择
2025-10-30 10:56:00
工商银行联合腾讯云发布《中国金融生成式AI多模态内容鉴伪与安全防御白皮书(2025)》
随着生成式人工智能浪潮全面兴起,金融行业在加速迈向“AI原生”时代的同时,也面临多模态深度伪造内容带来的新型安全挑战。利用生成式AI合成的语音
2025-10-30 12:08:00
片仔癀黄芩多肽洗护新品亮相漳州,以东方智慧开启舒缓新“净”界
10月23日,东方新国妆代表品牌——片仔癀化妆品,在品牌发源地漳州隆重举办黄芩多肽系列新品发布会。活动以“亮剑·向新而生”为主题
2025-10-30 12:11:00