• 我的订阅
  • 财经

DeepSeek,大消息

类别:财经 发布时间:2025-02-27 15:51:00 来源:瘦子财经

2月27日,DeepSeek宣布开源Optimized Parallelism Strategies。与此同时,英伟达开源了首个在Blackwell架构上优化的DeepSeek-R1,实现了推理速度提升25倍,并且每token成本降低20倍的惊人成果。这一新模型的推出,标志着英伟达在人工智能领域的又一次重大进展。

开源周第三天,DeepSeek宣布开源Optimized Parallelism Strategies(优化并行策略)。

据悉,该策略是为了提高计算效率、减少资源浪费并最大化系统性能而设计的并行计算方案。这些策略通过合理分配任务、协调资源利用和减少通信开销,实现在多核、分布式或异构系统中的高效并行执行。

最近,DeepSeek动作不断。此前,该公司宣布将DeepEP向公众开放。在宣布后的约20分钟内,DeepEP已在 GitHub、微软(MSFT.US)等平台上获得超过1000个 Star收藏。

据悉,DeepEP是MoE模型训练和推理的Expert Parallelism通信基础,可实现高效优化的全到全通信,以支持包括FP8在内的低精度计算,适用于现代高性能计算。DeepEP还针对从NVLink到RDMA的非对称带宽转发场景进行了深度优化,不仅提供高吞吐量,还支持流式多处理器数量控制,从而在训练和推理任务中实现高吞吐量性能。

稍早于2月26日,DeepSeek宣布,即日起,北京时间每日00:30至08:30的夜间空闲时段,DeepSeek开放平台推出错峰优惠活动。在此期间,API调用价格大幅下调:DeepSeek-V3降至原价的50%,DeepSeek-R1降至25%。

DeepSeek称,鼓励用户充分利用这一时段,享受更经济更流畅的服务体验。

DeepSeek推出优惠措施之时,正值其“开源周”。首个开源的代码库为针对Hopper GPU优化的FlashMLA,第二日是首个用于MoE模型训练和推理的开源EP通信库DeepEP,26日则开源了一个支持密集和MoE GEMM的FP8 GEMM 库,为V3/R1训练和推理提供支持。

英伟达通过在Blackwell架构上应用TensorRT DeepSeek优化,让具有FP4生产级精度的模型,在MMLU通用智能基准测试中达到了FP8 模型性能的99.8%。目前,英伟达基于FP4优化的DeepSeek-R1检查点已经在Hugging Face上开源,并且可以通过以下链接访问模型地址:DeepSeek-R1-FP4。

在后训练量化方面,该模型将Transformer模块内的线性算子的权重和激活量化到了FP4,适用于TensorRT-LLM推理。这一优化使每个参数的位数从8位减少到4位,从而让磁碟空间和GPU显存的需求减少了约1.6倍。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-02-27 17:45:07

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

从狂热到理性:大模型训练三堵墙,一场少数人的游戏 | 钛媒体深度
...大模型的推理、训练都高度依赖英伟达的GPU。来自市场的消息显示,A800的价格一度超过8万元人民币,A100更贵,甚至超过9万元。“英伟达的策略是既要确保每家大客户都能拿到货
2023-06-29 12:00:00
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
昨天凌晨,英伟达发布了2024财年第四季度财报,业绩再次超出预期。但比起亮眼的业绩,更让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟
2024-03-02 13:38:00
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...吸引顶级研究人员的「利器」。公开报道指出,作为全球英伟达 H100 GPU 储备第二多的公司,Meta 已经将大量 H100 作为吸引顶级 AI 人才的招聘策略
2023-12-15 11:26:00
英伟达公布未来三年芯片路线图,AI工厂有了操作系统;黄仁勋:算力会继续增长,机器人时代已来
出品 | 搜狐科技作者 | 梁昌均一年一度的英伟达GTC大会最受关注的黄仁勋主题演讲环节,3月19日凌晨落下帷幕。在推迟了10分钟后,黄仁勋以标志性的黑色皮衣登上舞台。今年的GT
2025-03-19 08:13:00
英伟达推出新一代ai芯片,预计今年晚些时候发货
美东时间3月18日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会
2024-03-20 01:28:00
壁仞科技实现中国首个三种异构GPU混训技术!壁仞+英伟达+其他国产芯片
快科技9月5日消息,据国内媒体报道,国产AI芯片公司壁仞科技即将在2024全球AI芯片峰会上,首次公布自主原创的异构GPU协同训练方案HGCT。据了解,这将是中国首个三种异构芯片
2024-09-05 15:09:00
英伟达没有慌,黄仁勋再谈DeepSeek:“推理”的计算需求可能增加上百万倍
...练成本,就训练出了表现不逊色于ChatGPT的顶尖模型。该消息一度让英伟达股价单日暴跌17%,单日市值蒸发约5890亿美元
2025-02-27 11:55:00
支持1024帧、准确率近100%,英伟达「LongVILA」开始发力长视频
...(涵盖系统、数据和 pipeline)是必不可少的。本文,来自英伟达、MIT、UC 伯克利、得克萨斯大学奥斯汀分校的研究者引入了 LongVILA
2024-08-22 09:51:00
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
...型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练
2024-11-13 14:09:00
更多关于财经的资讯:
“过年三件套”进入预约模式,百万家美甲相关企业或迎客流高峰期
距离2026年丙午马年春节已不足一月,不少人戏称为“过年三件套”的美发、美甲、美睫,预约热度正在逐渐攀升,其中美甲行业即将迎来客流“高峰期”
2026-01-27 14:00:00
国足决战亚洲之巅创下历史,2025年足球俱乐部相关企业注册涨超10%
据光明网报道,在北京时间1月24日晚举行的2026年U23男足亚洲杯决赛中,首次闯入决赛的中国队0:4不敌卫冕冠军日本队
2026-01-27 11:12:00
农业银行:将对个人客户参与存金通黄金积存交易增加风险承受能力测评准入
1月26日,农业银行发布公告,为落实监管要求,进一步保护金融消费者权益,该行将对个人客户参与存金通黄金积存交易增加风险承受能力测评准入
2026-01-27 11:16:00
诚泰保险:王锐任党委委员、书记
近日,诚泰财产保险股份有限公司(以下简称“诚泰保险”)发布关于更换党委书记的信息披露报告称,根据公司党委研究决定,并经中共云南省委金融工作委员会批复同意
2026-01-27 11:17:00
英大人寿、德华安顾人寿、东海保险……新董事长就位
英大人寿:俞华军正式出任董事长近日,英大泰和人寿保险股份有限公司(简称“英大人寿”)发布人事变动公告,俞华军正式出任公司董事长
2026-01-27 11:37:00
金融知识走近私行客户 守护高净值客户资产安全
鲁网1月27日讯农行潍坊滨海支行在开展私行客户维护活动的同时,组织专业团队走进私行客户群体,面向高净值人群开展金融知识宣传教育
2026-01-27 11:40:00
1月27日,深圳市南山区八届人大六次会议开幕。记者从会上获悉,2025年南山区成功迈入万亿城区。南山区成为我国首个GDP过万亿元的地市辖区。南山区是粤港澳大湾区重要的科技创新和产
2026-01-27 11:59:00
东南网1月27日讯 近日,三明市发展改革委发布通知,三元区非居民用管道天然气销售价格,最高销售价格为4.48元/立方米
2026-01-27 12:43:00
周全亮出任英大财险党委书记
近日,英大泰和财产保险股份有限公司官网更新高管简历,周全亮已经出任英大财险党委书记,该职务不再由董事长吴骏担任。简历显示
2026-01-27 11:01:00
金穗垂首报丰年 初心如磐助振兴——中国太保寿险贵州分公司赋能苗朋村喜获丰收
多彩贵州网讯(记者王静怡)秋风送爽,梯田鎏金。黔东南州从江县停洞镇苗朋村的稻田里,沉甸甸的稻穗压弯枝头,谷香伴着农户的欢声笑语弥漫乡间
2026-01-27 11:01:00
银河通用机器人新专利可有效提高姿态矫正稳定性
近日,北京银河通用机器人股份有限公司“姿态矫正方法及机器人”专利公布。企查查专利摘要显示,本申请涉及运动矫正技术领域,方法包括
2026-01-27 09:36:00
兰花科创等成立新公司,含新能源汽车业务
近日,山西兰花磐能科技有限公司成立,注册资本3000万元,经营范围包含:电池销售;蓄电池租赁;新能源汽车换电设施销售;电池零配件销售;金属材料销售等。企查查股权穿透显示,该公司由
2026-01-27 09:36:00
晶盛机电、美科太阳能成立半导体材料公司
近日,包头芯源硅半导体材料有限公司成立,注册资本2亿元,经营范围包含:电子专用材料制造;电子专用材料销售;电子专用材料研发
2026-01-27 09:36:00
广东新兴农村商业银行因贷款业务严重违反审慎经营规则等被罚款80万元
1月27日,国家金融监督管理总局云浮监管分局行政处罚信息公示列表显示,广东新兴农村商业银行股份有限公司因贷款业务严重违反审慎经营规则、未如实向监管部门反映妨碍独立董事履职独立性的
2026-01-27 10:41:00
中国农业银行大连市分行及大连金州支行因存在贷款等多项违规分别被罚款30万元
1月27日,国家金融监督管理总局大连监管局行政处罚信息公开表显示,中国农业银行大连市分行及中国农业银行大连金州支行因存在以同日或近期开立的存单作质押发放无实际需求贷款
2026-01-27 10:46:00