• 我的订阅
  • 财经

DeepSeek,大消息

类别:财经 发布时间:2025-02-27 15:51:00 来源:瘦子财经

2月27日,DeepSeek宣布开源Optimized Parallelism Strategies。与此同时,英伟达开源了首个在Blackwell架构上优化的DeepSeek-R1,实现了推理速度提升25倍,并且每token成本降低20倍的惊人成果。这一新模型的推出,标志着英伟达在人工智能领域的又一次重大进展。

开源周第三天,DeepSeek宣布开源Optimized Parallelism Strategies(优化并行策略)。

据悉,该策略是为了提高计算效率、减少资源浪费并最大化系统性能而设计的并行计算方案。这些策略通过合理分配任务、协调资源利用和减少通信开销,实现在多核、分布式或异构系统中的高效并行执行。

最近,DeepSeek动作不断。此前,该公司宣布将DeepEP向公众开放。在宣布后的约20分钟内,DeepEP已在 GitHub、微软(MSFT.US)等平台上获得超过1000个 Star收藏。

据悉,DeepEP是MoE模型训练和推理的Expert Parallelism通信基础,可实现高效优化的全到全通信,以支持包括FP8在内的低精度计算,适用于现代高性能计算。DeepEP还针对从NVLink到RDMA的非对称带宽转发场景进行了深度优化,不仅提供高吞吐量,还支持流式多处理器数量控制,从而在训练和推理任务中实现高吞吐量性能。

稍早于2月26日,DeepSeek宣布,即日起,北京时间每日00:30至08:30的夜间空闲时段,DeepSeek开放平台推出错峰优惠活动。在此期间,API调用价格大幅下调:DeepSeek-V3降至原价的50%,DeepSeek-R1降至25%。

DeepSeek称,鼓励用户充分利用这一时段,享受更经济更流畅的服务体验。

DeepSeek推出优惠措施之时,正值其“开源周”。首个开源的代码库为针对Hopper GPU优化的FlashMLA,第二日是首个用于MoE模型训练和推理的开源EP通信库DeepEP,26日则开源了一个支持密集和MoE GEMM的FP8 GEMM 库,为V3/R1训练和推理提供支持。

英伟达通过在Blackwell架构上应用TensorRT DeepSeek优化,让具有FP4生产级精度的模型,在MMLU通用智能基准测试中达到了FP8 模型性能的99.8%。目前,英伟达基于FP4优化的DeepSeek-R1检查点已经在Hugging Face上开源,并且可以通过以下链接访问模型地址:DeepSeek-R1-FP4。

在后训练量化方面,该模型将Transformer模块内的线性算子的权重和激活量化到了FP4,适用于TensorRT-LLM推理。这一优化使每个参数的位数从8位减少到4位,从而让磁碟空间和GPU显存的需求减少了约1.6倍。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-02-27 17:45:07

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

从狂热到理性:大模型训练三堵墙,一场少数人的游戏 | 钛媒体深度
...大模型的推理、训练都高度依赖英伟达的GPU。来自市场的消息显示,A800的价格一度超过8万元人民币,A100更贵,甚至超过9万元。“英伟达的策略是既要确保每家大客户都能拿到货
2023-06-29 12:00:00
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
昨天凌晨,英伟达发布了2024财年第四季度财报,业绩再次超出预期。但比起亮眼的业绩,更让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟
2024-03-02 13:38:00
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...吸引顶级研究人员的「利器」。公开报道指出,作为全球英伟达 H100 GPU 储备第二多的公司,Meta 已经将大量 H100 作为吸引顶级 AI 人才的招聘策略
2023-12-15 11:26:00
英伟达公布未来三年芯片路线图,AI工厂有了操作系统;黄仁勋:算力会继续增长,机器人时代已来
出品 | 搜狐科技作者 | 梁昌均一年一度的英伟达GTC大会最受关注的黄仁勋主题演讲环节,3月19日凌晨落下帷幕。在推迟了10分钟后,黄仁勋以标志性的黑色皮衣登上舞台。今年的GT
2025-03-19 08:13:00
英伟达推出新一代ai芯片,预计今年晚些时候发货
美东时间3月18日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会
2024-03-20 01:28:00
壁仞科技实现中国首个三种异构GPU混训技术!壁仞+英伟达+其他国产芯片
快科技9月5日消息,据国内媒体报道,国产AI芯片公司壁仞科技即将在2024全球AI芯片峰会上,首次公布自主原创的异构GPU协同训练方案HGCT。据了解,这将是中国首个三种异构芯片
2024-09-05 15:09:00
英伟达没有慌,黄仁勋再谈DeepSeek:“推理”的计算需求可能增加上百万倍
...练成本,就训练出了表现不逊色于ChatGPT的顶尖模型。该消息一度让英伟达股价单日暴跌17%,单日市值蒸发约5890亿美元
2025-02-27 11:55:00
支持1024帧、准确率近100%,英伟达「LongVILA」开始发力长视频
...(涵盖系统、数据和 pipeline)是必不可少的。本文,来自英伟达、MIT、UC 伯克利、得克萨斯大学奥斯汀分校的研究者引入了 LongVILA
2024-08-22 09:51:00
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
...型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练
2024-11-13 14:09:00
更多关于财经的资讯:
【新春走基层】纳雍电厂400人守着50万吨煤过年
春节期间,在纳雍电厂煤场上,五十万吨燃煤堆起了一座黑色的山。“这山,就是咱们过年的底气。”纳雍电厂厂长焦明勇说,远处,一辆辆运煤车正沿着开辟好的“绿色通道”缓缓驶入
2026-02-28 02:44:00
政务服务 | 剑河县成功办结个人身后“一件事”
“原本是来销户的,没想到连医保剩余的钱也提出来了,来一次就办了两个事情。”近日,来自黔东南州剑河县仰阿莎街道城西社区的龙女士在剑河县政务服务中心综合窗口成功办结个人身后“一件事”业务
2026-02-28 02:45:00
贵安新区“企业之家”线上服务平台开启试运行
为进一步提升服务企业效能和质量,贵安新区行政审批局打造的“企业之家”线上服务平台已于2026年2月正式上线试运行,该平台集成了全生命周期涉企服务
2026-02-28 02:45:00
国投白银LOF(上市型开放式基金)的补偿本周开领。作为国际定价的投资品种,白银价格近期暴涨暴跌引发市场关注,后期银价涨跌几何?要注意哪些风险?风险不可小觑Wind数据显示
2026-02-27 21:25:00
2月27日,A股市场钨产业龙头中钨高新(000657)迎来强势涨停,成为当日有色金属板块领涨标的。深交所龙虎榜数据显示
2026-02-27 21:25:00
下周,2026年全国两会召开在即;世界移动通信大会、苹果2026春季新品发布会也将举行;2月PMI数据将公布。另外,下周A股暂无新股发行
2026-02-27 21:55:00
周五,A股大小指数分化,沪指上涨0.39%,创业板指跌逾1%。盘面上,受涨价催化影响,钨、稀土等稀有金属题材集体爆发,中钨高新
2026-02-27 21:55:00
尽管2月交易日较少,但机构对科创板公司的调研热情依旧高涨,调研标的覆盖范围广泛,且相较于1月,机构关注的行业重心出现显著变化
2026-02-27 21:55:00
是馅饼还是陷阱? “易主”概念炒作众生相:提前埋伏者笑,高位接盘者哭
A股马年第二个交易日,法兰泰克和汇隆新材几乎同时宣布了其控制权拟发生变更的消息。2月26日,两只股票双双停牌。记者据Wind数据整理发现
2026-02-27 21:25:00
【新春特别报道】广发银行济南分行新春守“济”支付路 温情服务不打烊
2026年2月17日,正月初一。在济南遥墙国际机场境外来宾支付服务中心,广发银行济南分行营业部柜面经理王洁珣与城西支行柜面经理安雯提前两小时到岗
2026-02-27 17:34:00
2月27日晚间,济民健康管理股份有限公司(下称“济民健康”,股票代码:603222)发布公告称,济民健康为全资子公司聚民生物科技有限公司(下称“聚民生物”)向交通银行股份有限公司
2026-02-27 17:55:00
阳光保险因关联交易管理不到位等被罚款140万元
2月27日,国家金融监督管理总局行政处罚信息公示列表显示,阳光保险集团股份有限公司因关联交易管理不到位,偿付能力报告数据不准确等被罚款140万元。责任人张某秋、张某美被警告并罚款
2026-02-27 18:18:00
增速全国第五,去年河北软件业务收入同比增长17.7%。
2026-02-27 18:58:00
2月27日晚间,浙江中国轻纺城集团股份有限公司(下称“轻纺城”,股票代码:600790)发布估值提升计划公告。公告显示
2026-02-27 19:25:00
深山架网解民忧 快速理赔暖民心——平安产险贵州分公司用心用情做好山区农险服务
多彩贵州网讯(记者 金星)近日,平安产险贵州分公司快速处置一起山区养殖保险理赔案件,通过主动服务、现场解决网络难题,高效完成查勘定损与赔付工作
2026-02-27 19:34:00