• 我的订阅
  • 财经

DeepSeek,大消息

类别:财经 发布时间:2025-02-27 15:51:00 来源:瘦子财经

2月27日,DeepSeek宣布开源Optimized Parallelism Strategies。与此同时,英伟达开源了首个在Blackwell架构上优化的DeepSeek-R1,实现了推理速度提升25倍,并且每token成本降低20倍的惊人成果。这一新模型的推出,标志着英伟达在人工智能领域的又一次重大进展。

开源周第三天,DeepSeek宣布开源Optimized Parallelism Strategies(优化并行策略)。

据悉,该策略是为了提高计算效率、减少资源浪费并最大化系统性能而设计的并行计算方案。这些策略通过合理分配任务、协调资源利用和减少通信开销,实现在多核、分布式或异构系统中的高效并行执行。

最近,DeepSeek动作不断。此前,该公司宣布将DeepEP向公众开放。在宣布后的约20分钟内,DeepEP已在 GitHub、微软(MSFT.US)等平台上获得超过1000个 Star收藏。

据悉,DeepEP是MoE模型训练和推理的Expert Parallelism通信基础,可实现高效优化的全到全通信,以支持包括FP8在内的低精度计算,适用于现代高性能计算。DeepEP还针对从NVLink到RDMA的非对称带宽转发场景进行了深度优化,不仅提供高吞吐量,还支持流式多处理器数量控制,从而在训练和推理任务中实现高吞吐量性能。

稍早于2月26日,DeepSeek宣布,即日起,北京时间每日00:30至08:30的夜间空闲时段,DeepSeek开放平台推出错峰优惠活动。在此期间,API调用价格大幅下调:DeepSeek-V3降至原价的50%,DeepSeek-R1降至25%。

DeepSeek称,鼓励用户充分利用这一时段,享受更经济更流畅的服务体验。

DeepSeek推出优惠措施之时,正值其“开源周”。首个开源的代码库为针对Hopper GPU优化的FlashMLA,第二日是首个用于MoE模型训练和推理的开源EP通信库DeepEP,26日则开源了一个支持密集和MoE GEMM的FP8 GEMM 库,为V3/R1训练和推理提供支持。

英伟达通过在Blackwell架构上应用TensorRT DeepSeek优化,让具有FP4生产级精度的模型,在MMLU通用智能基准测试中达到了FP8 模型性能的99.8%。目前,英伟达基于FP4优化的DeepSeek-R1检查点已经在Hugging Face上开源,并且可以通过以下链接访问模型地址:DeepSeek-R1-FP4。

在后训练量化方面,该模型将Transformer模块内的线性算子的权重和激活量化到了FP4,适用于TensorRT-LLM推理。这一优化使每个参数的位数从8位减少到4位,从而让磁碟空间和GPU显存的需求减少了约1.6倍。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-02-27 17:45:07

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

从狂热到理性:大模型训练三堵墙,一场少数人的游戏 | 钛媒体深度
...大模型的推理、训练都高度依赖英伟达的GPU。来自市场的消息显示,A800的价格一度超过8万元人民币,A100更贵,甚至超过9万元。“英伟达的策略是既要确保每家大客户都能拿到货
2023-06-29 12:00:00
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
昨天凌晨,英伟达发布了2024财年第四季度财报,业绩再次超出预期。但比起亮眼的业绩,更让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟
2024-03-02 13:38:00
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...吸引顶级研究人员的「利器」。公开报道指出,作为全球英伟达 H100 GPU 储备第二多的公司,Meta 已经将大量 H100 作为吸引顶级 AI 人才的招聘策略
2023-12-15 11:26:00
英伟达公布未来三年芯片路线图,AI工厂有了操作系统;黄仁勋:算力会继续增长,机器人时代已来
出品 | 搜狐科技作者 | 梁昌均一年一度的英伟达GTC大会最受关注的黄仁勋主题演讲环节,3月19日凌晨落下帷幕。在推迟了10分钟后,黄仁勋以标志性的黑色皮衣登上舞台。今年的GT
2025-03-19 08:13:00
英伟达推出新一代ai芯片,预计今年晚些时候发货
美东时间3月18日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会
2024-03-20 01:28:00
壁仞科技实现中国首个三种异构GPU混训技术!壁仞+英伟达+其他国产芯片
快科技9月5日消息,据国内媒体报道,国产AI芯片公司壁仞科技即将在2024全球AI芯片峰会上,首次公布自主原创的异构GPU协同训练方案HGCT。据了解,这将是中国首个三种异构芯片
2024-09-05 15:09:00
英伟达没有慌,黄仁勋再谈DeepSeek:“推理”的计算需求可能增加上百万倍
...练成本,就训练出了表现不逊色于ChatGPT的顶尖模型。该消息一度让英伟达股价单日暴跌17%,单日市值蒸发约5890亿美元
2025-02-27 11:55:00
支持1024帧、准确率近100%,英伟达「LongVILA」开始发力长视频
...(涵盖系统、数据和 pipeline)是必不可少的。本文,来自英伟达、MIT、UC 伯克利、得克萨斯大学奥斯汀分校的研究者引入了 LongVILA
2024-08-22 09:51:00
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
...型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练
2024-11-13 14:09:00
更多关于财经的资讯:
齐鲁银行:绿色金融“贷”动产业转型
山东省滨州市持续深耕绿色低碳发展领域,连续4年斩获“省级节能减排奖”,并出台《滨州市节能降碳工作方案》,明确开展零碳园区试点
2025-10-13 21:00:00
合同约40亿美元!我国承揽最大国际海洋油气工程总承包项目启动
齐鲁晚报·齐鲁壹点记者 赵波10月13日,海洋石油工程股份有限公司(下称“海油工程”)发布消息,随着合同金额约40亿美元的卡塔尔BH EPIC总包项目启动会的召开
2025-10-13 22:14:00
贵州刺力王:创新工艺撬动产业升级
“贵州刺力王生物科技有限公司从一开始就带着使命诞生——解决贵州老百姓刺梨卖果难问题。”近日,在接受记者采访时,贵州刺力王生物科技有限公司副总经理邹雷说
2025-10-13 22:45:00
齐鲁保上线首日,参保人数突破15万!
10月12日上午,“齐鲁保2026版”投保通道正式开启,据共保体消息,通道开启当日,参保人数突破15万。山东省直及济南市职工
2025-10-13 21:01:00
两块把子肉的钱,关键时刻能救命!
“最低两块把子肉钱,就能为自己买一份‘救命’的保障!”10月12日,紧密衔接基本医保的普惠型商业医疗保险——“齐鲁保2026版”参保通道正式开启
2025-10-13 21:03:00
邮储银行平顶山市分行多措并举织密反洗钱宣传网 新法知识走进千家万户
大河网讯 为深入贯彻新《反洗钱法》,筑牢金融安全防线,近日,邮储银行平顶山市分行坚持“普及法律、防控风险、全民参与”理念
2025-10-13 16:06:00
三七互娱在广州成立网络科技新公司
近日,广州轻悠网络科技有限公司成立,法定代表人为李贺,经营范围包含:数字文化创意软件开发;动漫游戏开发;专业设计服务等。企查查股权穿透显示,该公司由三七互娱(002555)间接全
2025-10-13 12:36:00
圣邦股份收购亿存芯半导体约77%股权
近日,上海亿存芯半导体有限公司发生工商变更,原股东长治市金伯乐汽贸汽配城有限公司、郝清山退出,新增圣邦股份(300661)为股东并持股77
2025-10-13 12:36:00
中国工商银行深圳市分行因三项业务违规领 1150 万罚单 19名责任人同步追责
10月11日,深圳金融监管局行政处罚信息公示表显示,中国工商银行深圳市分行及相关责任人因贷款业务、保函业务三查违规;超越授权办理业务
2025-10-13 10:51:00
深夜“寻漏人”:水发贤达红色队伍守护城市供水生命线
当城市入夜,万家灯火点亮,水发上善权属山东水发贤达水务有限公司管网巡线团队——这支带着“红色印记”的队伍,便背着专业设备穿梭街巷
2025-10-13 08:52:00
康力源被暂停陆军采购资格
10月11日,军队采购网发布关于对江苏康力源体育科技股份有限公司暂停处理公告。经调查,江苏康力源体育科技股份有限公司在参加项目编号
2025-10-13 07:06:00
中国人寿财险原总裁刘安林被开除党籍
中新经纬10月12日电 中央纪委国家监委网站12日通报,中国人寿财产保险股份有限公司(简称中国人寿财险)原党委书记、总裁刘安林被开除党籍
2025-10-13 08:04:00
在江西,商业秘密能质押贷款了
本报讯(蔡军辉 全媒体记者王琴红)近日,九江某食品科技有限公司凭借其核心商业秘密,获得建设银行江西省分行360万元信贷支持
2025-10-13 06:57:00
隆基绿能在广西柳州投资成立新公司
近日,广西柳州源储新能源有限公司成立,法定代表人为虞立涛,经营范围包含:储能技术服务;合同能源管理;风力发电技术服务;光伏发电设备租赁等。企查查股权穿透显示,该公司由隆基绿能(6
2025-10-11 13:48:00
兴业银行济南分行:“商票融资”解决小微企业融资难题
齐鲁晚报·齐鲁壹点 通讯员 朱孟冬在山东临沂某配件车间中,机器轰鸣不断,工人身影忙碌穿梭,该企业是某国内知名工程机械企业上游配件公司
2025-10-12 07:57:00