• 我的订阅
  • 头条热搜
大模型卷向下半场:价格战之后如何成为真正“刚需”
...化手段,可以降低大模型成本,在工程上可以通过分布式推理的形式将底层算力使用得更好;另外,在混合调度方面,可以把不同负载作为混合调度,这样的成本也大幅下降。阿里云相关人士也对澎湃新闻记者表示,能够推出低...……更多
...较确定的长期主线。 投资机会上,张雪薇认为主要利好推理侧算力以及AI+相关硬件。GPT-4o最让人惊叹的除了强大的理解能力,就是几乎实时的反应速度。这次GPT-4o的超低延迟将会对推理算力提出更高的要求。国产算力方面,海...……更多
黄仁勋首度回应DeepSeek冲击:英伟达暴跌系投资者误解 未来算力仍至关重要
今年1月,中国人工智能初创公司DeepSeek发布的开源推理模型R1在海外引起巨大反响,并引发美股“AI宠儿”英伟达单日市值一度蒸发近6000亿美元。而近日,英伟达首席执行官黄仁勋首度对此事做出了公开回应。他称,DeepSeep-R1推...……更多
...动终端在脱离了“云端”的情况下,依然具备本地大模型推理能力。在7月26日启幕的2025世界人工智能大会上,这一创新产品正式亮相,瞬间吸引了业内广泛关注,成为AI赋能千行百业的又一次跨越。当前,大模型行业正经历深刻...……更多
NPU全球出货超1亿颗!芯原如何迎战大模型时代的边缘计算变革?
...C9X00AI是AI-GPU/AI-PC,Tensor Core GPU IP CCTC-MP则面向大语言模型推理、训练。芯原NPU IP研发副总裁查凯南谈道,NPU的发展近年来大概有三个方向:首先是DEEP AI,在很多嵌入式设备里面,要把AI跟其它的处理IP做比较紧耦合的绑定,可以...……更多
位列第一梯队,腾讯混元再度领跑国内大模型
...维度的综合性测评基准,由十大基础任务组成,包括逻辑推理、代码、语言理解、长文本、角色扮演等。本次报告选取了国内外具有代表性的32个大模型4月份的版本,通过多维度综合性测评,真实准确地反映了国内外大模型在中...……更多
Llama 4训练已开启!Meta科学家最新采访,揭秘Llama 3.1是如何炼成的
...很多不同的GPU型号和显存大小。再加上,目前广泛应用于推理阶段的量化技术,比如可以用FP16或FP8精度,这会改变推理和训练/微调成本的比重。以上这些限制因素,都让模型规模的选择成为一个非常具有挑战性的问题。总体而...……更多
阿里云CTO周靖人:全面投入升级AI大基建
...级从服务器到计算、存储、网络、数据处理、模型训练和推理平台的技术架构体系,让数据中心成为一台超级计算机,为每个AI和应用提供高性能、高效的算力服务。大会现场,通义大模型迎来了年度重磅发布,基础模型升级,...……更多
全模态对齐框架align-anything来啦:实现跨模态指令跟随
...-Vision-11B 既准确地识别出了餐厅,还提供了细致的思考与推理过程。 在 Meta 并未披露 Llama-3.2-11B-Vision-Instruct 对齐技术细节情况下,北大对齐小组愿开源数据、训练、模型、评估的全流程,为全模态对齐研究贡献力量。对齐框架...……更多
...法不准确。同时,它还附上了正确做法。聚集增强数学、推理及代码能力商汤生成式AI产品系列的突破性表现,得益于其最新发布的日日新5.0版本大模型。记者了解到,自去年4月首次发布,商汤“日日新SenseNova”大模型体系已正...……更多
广汽宣布加入DeepSeek!覆盖昊铂、传祺、埃安三大品牌
...云端生成大模型接入DeepSeek模型,实现了原生自然的深度推理体验,并基于模型新增的强推理和反思能力,主动为客户提供更多个性化服务。这种融合使得汽车从简单的指令响应工具进化为能够预见需求的伙伴,重新定义了智能...……更多
腾讯:已囤很多GPU 足够训练未来几代模型
...实基础。从需求端来看,当前腾讯对GPU更大的需求集中在推理侧。随着用户推理需求的逐步增长,推理token(词元)的需求远超此前预期。此外,腾讯还计划深度整合AI与游戏业务,在游戏中以多种形式灵活部署AI。腾讯高管也坦...……更多
自定义Llama 3.1模型的利器来了!NVIDIA打造生成式AI代工厂,还有加速部署的微服务
...24日报道,NVIDIA宣布推出全新NVIDIA AI Foundry服务和NVIDIA NIM推理微服务,与刚推出的Meta Llama 3.1系列开源模型一起,为全球企业的生成式AI提供强力支持。Llama 3.1大语言模型有8B、70B和405B三种参数规模。模型在超过16000个NVI……更多
提质降价,国产大模型加速奔跑
...据方面实现多模态统一,持续突破人工智能感知、理解和推理世界的能力边界。这些,拓展着大模型与各行各业融合的深度和广度。“如今,芯片制造商、数据供应商、模型研发企业、应用开发商等方面协同合作正日益增强,共...……更多
突破遥感基础模型关键技术!我国科研人员研发出遥感智能训推一体机
...然而,遥感单幅影像幅宽大、基础模型参数规模大,导致推理速度与应用场景较为受限。近日,中国科学院空天信息创新研究院(空天院)科研团队基于自主研制的遥感智能解译基础模型,联合国内相关研发机构,共同研发出“...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...器,相比上代至强平均性能提升了21%,能效提升了36%,AI推理性能提升了42%,总拥有成本降低了77%!最高64核心,整体性能提升21%、AI推理性能提升42%、总拥有成本降低77%! 据介绍,第五代至强(Xeon)延续了上代的Intel 7制造工...……更多
突发!谷歌发布史上最强大模型Gemini,打爆GPT-4
...们刚才所述,32个基准测试中拿下30个SOTA。其中,通用、推理、数学和编程等大方向的成绩如下表所示:△Gemini 在包括文本和编码在内的一系列基准测试中达到SOTA 在多模态方面,Gemini Ultra在新的MMMU基准测试中也获得了59.4%的SOT...……更多
史上首个实时AI视频生成技术:DiT通用,速度提升10.6倍
...本都在于质量,很少有研究专注于探索如何加速 DiT 模型推理。加速视频生成模型的推理对于生成式 AI 应用来说已经是当务之急。PAB 方法的出现,为我们打开了一条路。原始方法与 PAB 视频生成速度的比较。作者在 Open-Sora 上测...……更多
智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习
...出的巨大潜力,而这种潜力的核心基石正是智能体的复杂推理能力。与当下广受关注的 OpenAI-o1 及其追随者略有不同,大多数实用的 AI Agent 往往需要在特定场景下发挥作用。这种情况类似于普通人类:虽然不是每个人都需要具备...……更多
英伟达开源NVLM 1.0屠榜多模态!纯文本性能不降反升
...例如,OCRBench)的性能,但与低分辨率版本模型相比,在推理相关任务(例如,MMMU)上的准确率却会下降。此外,虽然开源的多模态大模型在视觉-语言任务上取得了非常亮眼的基准测试结果,但在纯文本任务上的性能却有显著...……更多
智能体首达Kaggle Grandmaster,华为结构化推理补齐思维链短板
...中的表现,研究者们提出了各种提示策略来提升大模型的推理和规划能力,比如思维链、思维树和思维图谱。这些进步与工具集成一起,推动着通用 AI 智能体的发展,让它们现在已经能够用 LLM 输出的决策策略来解决序列决策问...……更多
...研发中心,专注于算法研发和模型调优,凭借自主创新的推理加速技术,对 DeepSeek全参数版进行软硬件协同深度优化,实现了每秒超6900 Token的超高吞吐率,性能远超行业平均水平,大幅提升了大模型效率。此次入围的算力强基...……更多
三个大模型组队挑战o1,实测360多模型协作干掉提示词工程
...横空出世,开启了大模型演化的新范式——Inference law(推理定律)。正如英伟达AI科学家Jim Fan所说,o1的出现标志着大模型研发者开始把集中在训练阶段的投入,开始转移到了推理过程。Jim还引用了机器学习先驱Rich Sutton的经典...……更多
科学家竞相破解大型语言模型背后的谜团
...复杂行为。面对复杂问题,人类在潜意识里会进行分步骤推理。受此启发,谷歌团队2022年引入了“思维链提示”,以描述一种让LLM展示其“思维”的方法。简单来说,思维链提示是一种特殊的上下文学习。不同于标准提示只给...……更多
联想发布DeepSeek一体机解决方案:支持千亿参数大模型训练
...器双产品形态,率先实现从千亿参数大模型训练到场景化推理落地的全链条覆盖。联想创新性推出两大产品:面向敏捷部署的DeepSeek智能体一体机采用ThinkStationPX工作站为载体,搭载沐曦曦思N260 GPU。实测数据显示,在相同并发条...……更多
昆仑万维开源中国首个面向AI短剧创作的视频生成模型SkyReels-V1,重塑AI短剧行业格局
...围绕人物表演、开源视频生成模型中性能最强的。在自研推理优化框架「SkyReels-Infer」的加持下,大幅提升推理效率,实现544p分辨率,推理基于单台4090只需80s,还支持分布式多卡并行,支持Context Parallel,CFG Parallel,和 VAE Parallel...……更多
AI智能体,构建智慧生活新图景
...使用的语言交流服务,AI智能体还能根据上下文进行智能推理和情感分析,并模仿人类行为进行相应的操作。比如,下达“帮我做一道菜”这项任务指令,“大模型厨师”只能输出一份食谱并指出需要哪些食材;“AI智能体厨师...……更多
RAG没有银弹!四级难度,最新综述覆盖数据集、解决方案,教你「LLM+外部数据」的正确使用姿势
...成到LLMs中的三种主要方式。从简单的事实检索到复杂的推理任务,每个级别都有其独特的难点和解决方案,需要不同的技术和方法来优化性能。受参数量和知识更新的限制,大模型在执行很多真实场景下的任务时,都需要连接...……更多
摆脱Transformer依赖?这家AI初创公司推出国内首个非Attention机制大模型
...能效果——记忆能力提升3倍、速度提升7倍的同时,实现推理吞吐量的5倍提升。 至于为何另辟蹊径,寻求非Transformer的大模型路径,岩芯数智CEO刘凡平指出,以大规模著称的Transformer,在实际应用中的高算力和高成本,让不少中...……更多
阿里云佘俊泉:创新涌现,边缘云场景的探索与机遇|GDCC智算
...成本优化,后者则注重实时互动体验。此外,虽然边缘AI推理当前的规模不大,但随着AIGC以及LLM技术全面应用到千行百业,边缘云在这个方向上有巨大潜力,在未来5-10年内将产生更多创新业务场景。针对上述场景化需求,阿里...……更多
更多关于财经的资讯:
蝉联全球第一!出海模式发生转变 中国汽车重塑全球价值链
近年来,中国汽车出口成为外贸增长中的一大亮点。2024年,我国以585.9万辆的出口规模蝉联全球第一,今年有望突破680万辆
2025-12-06 08:18:00
2025财联社上市公司价值引领大会落地同安
2025财联社上市公司价值引领大会暨第六届精英董秘之夜在同安滨海新城举办。(通讯员 高明磊 摄)厦门网讯 (厦门日报记者 林健华 通讯员 郑素描 余雪燕 张研)备受资本市场关注的年度盛会落地厦门同安
2025-12-06 08:26:00
广州“铜钱大厦”将再次拍卖,起拍价跌至10.8亿元
大皖新闻讯 12月6日,大皖新闻记者从阿里资产拍卖平台看到,广州地标建筑广州圆大厦再次拍卖,起拍价10.8亿元,相较于第一次13
2025-12-06 12:52:00
上海市中心高端楼盘开建,隔壁小区墙裂了地裂了!16米深基坑引发忧虑,相关各方回应
静安区鑫康苑多位居民向“新民帮侬忙”反映,隔壁新建高端楼盘“信安里”在建设过程中,基坑深度达16米左右,对鑫康苑部分楼栋造成影响
2025-12-06 16:19:00
59只基金新进独门股12月涨逾7%
临近年末,基金独门重仓股常有表现。Wind数据显示,三季度,共有863只股票仅被1只基金新增持有。从二级市场来看,顺灏股份、海欣食品、上海瀚讯、龙高股份等股股价12月涨幅居前。
2025-12-06 17:41:00
边风炜:“打地鼠”游戏与股市策略
近期市场缩量震荡,沪指围绕3900点反复震荡,波动不大,但很多投资者感觉很难熬,主要原因还是不习惯、不适应。四季度至今
2025-12-06 17:41:00
· C909飞机,已交付174架!
人民日报客户端讯 12月5日,在中国工程院举行的2025年当选院士学习教育暨颁证仪式上,中国工程院院士、中国商用飞机有限责任公司工程总师陈勇介绍
2025-12-06 20:07:00
Canada Goose加拿大鹅郑州丹尼斯大卫城精品店启幕
大河网讯 Canada Goose加拿大鹅郑州丹尼斯大卫城精品店现已启幕,标志着品牌北境精神在中国城市版图中的进一步拓展
2025-12-06 14:25:00
贵州企业“创客中国”全国总决赛斩获全国三等奖
11月27日,第十届“创客中国”中小企业创新创业大赛全国总决赛圆满落幕。在这场代表全国中小企业最高创新水平的巅峰对决中
2025-12-06 05:29:00
东华软件成立新公司,含智能农业管理业务
近日,东华软件(塔城市)有限公司成立,注册资本5000万元,经营范围包含:智能控制系统集成;智能农业管理;大数据服务;数据处理服务等。企查查股权穿透显示,该公司由东华软件(002
2025-12-05 14:24:00
赣锋锂业、世荣兆业成立新能源公司,含热力生产和供应业务
近日,南昌珠赣新能源有限公司成立,法定代表人为余少华,注册资本为2000万元,经营范围包含:热力生产和供应,生物质燃料加工
2025-12-05 14:24:00
岱美股份成立智创机器人科技公司
近日,上海岱美智创机器人科技有限公司成立,注册资本1亿元,经营范围包含:智能机器人的研发;工业机器人制造;特殊作业机器人制造;服务消费机器人制造等。企查查股权穿透显示,该公司由岱
2025-12-05 14:24:00
三一重工成立智能机械公司
近日,安徽三昱智能机械有限公司成立,法定代表人为柴文俊,注册资本为1000万元,经营范围包含:机械设备销售;建筑工程用机械销售
2025-12-05 14:24:00
东方电气投资成立数智科技公司
近日,东方电气(安平)数智科技有限公司成立,法定代表人为王潇,经营范围包含:新兴能源技术研发;储能技术服务;合同能源管理
2025-12-05 14:36:00
“公益+教育”守护平安路 平安产险河南分公司积极探索交通安全治理新路径
大河网讯 近日,在河南,农村地区面临道路交通安全事故高发的严峻挑战。信号灯缺失的“盲区”、路网交织的“迷宫”、安全意识的“短板”
2025-12-05 14:54:00