• 我的订阅
  • 财经

DeepSeek,大消息

类别:财经 发布时间:2025-02-27 15:51:00 来源:瘦子财经

2月27日,DeepSeek宣布开源Optimized Parallelism Strategies。与此同时,英伟达开源了首个在Blackwell架构上优化的DeepSeek-R1,实现了推理速度提升25倍,并且每token成本降低20倍的惊人成果。这一新模型的推出,标志着英伟达在人工智能领域的又一次重大进展。

开源周第三天,DeepSeek宣布开源Optimized Parallelism Strategies(优化并行策略)。

据悉,该策略是为了提高计算效率、减少资源浪费并最大化系统性能而设计的并行计算方案。这些策略通过合理分配任务、协调资源利用和减少通信开销,实现在多核、分布式或异构系统中的高效并行执行。

最近,DeepSeek动作不断。此前,该公司宣布将DeepEP向公众开放。在宣布后的约20分钟内,DeepEP已在 GitHub、微软(MSFT.US)等平台上获得超过1000个 Star收藏。

据悉,DeepEP是MoE模型训练和推理的Expert Parallelism通信基础,可实现高效优化的全到全通信,以支持包括FP8在内的低精度计算,适用于现代高性能计算。DeepEP还针对从NVLink到RDMA的非对称带宽转发场景进行了深度优化,不仅提供高吞吐量,还支持流式多处理器数量控制,从而在训练和推理任务中实现高吞吐量性能。

稍早于2月26日,DeepSeek宣布,即日起,北京时间每日00:30至08:30的夜间空闲时段,DeepSeek开放平台推出错峰优惠活动。在此期间,API调用价格大幅下调:DeepSeek-V3降至原价的50%,DeepSeek-R1降至25%。

DeepSeek称,鼓励用户充分利用这一时段,享受更经济更流畅的服务体验。

DeepSeek推出优惠措施之时,正值其“开源周”。首个开源的代码库为针对Hopper GPU优化的FlashMLA,第二日是首个用于MoE模型训练和推理的开源EP通信库DeepEP,26日则开源了一个支持密集和MoE GEMM的FP8 GEMM 库,为V3/R1训练和推理提供支持。

英伟达通过在Blackwell架构上应用TensorRT DeepSeek优化,让具有FP4生产级精度的模型,在MMLU通用智能基准测试中达到了FP8 模型性能的99.8%。目前,英伟达基于FP4优化的DeepSeek-R1检查点已经在Hugging Face上开源,并且可以通过以下链接访问模型地址:DeepSeek-R1-FP4。

在后训练量化方面,该模型将Transformer模块内的线性算子的权重和激活量化到了FP4,适用于TensorRT-LLM推理。这一优化使每个参数的位数从8位减少到4位,从而让磁碟空间和GPU显存的需求减少了约1.6倍。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-02-27 17:45:07

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

从狂热到理性:大模型训练三堵墙,一场少数人的游戏 | 钛媒体深度
...大模型的推理、训练都高度依赖英伟达的GPU。来自市场的消息显示,A800的价格一度超过8万元人民币,A100更贵,甚至超过9万元。“英伟达的策略是既要确保每家大客户都能拿到货
2023-06-29 12:00:00
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
昨天凌晨,英伟达发布了2024财年第四季度财报,业绩再次超出预期。但比起亮眼的业绩,更让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟
2024-03-02 13:38:00
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...吸引顶级研究人员的「利器」。公开报道指出,作为全球英伟达 H100 GPU 储备第二多的公司,Meta 已经将大量 H100 作为吸引顶级 AI 人才的招聘策略
2023-12-15 11:26:00
英伟达公布未来三年芯片路线图,AI工厂有了操作系统;黄仁勋:算力会继续增长,机器人时代已来
出品 | 搜狐科技作者 | 梁昌均一年一度的英伟达GTC大会最受关注的黄仁勋主题演讲环节,3月19日凌晨落下帷幕。在推迟了10分钟后,黄仁勋以标志性的黑色皮衣登上舞台。今年的GT
2025-03-19 08:13:00
英伟达推出新一代ai芯片,预计今年晚些时候发货
美东时间3月18日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会
2024-03-20 01:28:00
壁仞科技实现中国首个三种异构GPU混训技术!壁仞+英伟达+其他国产芯片
快科技9月5日消息,据国内媒体报道,国产AI芯片公司壁仞科技即将在2024全球AI芯片峰会上,首次公布自主原创的异构GPU协同训练方案HGCT。据了解,这将是中国首个三种异构芯片
2024-09-05 15:09:00
英伟达没有慌,黄仁勋再谈DeepSeek:“推理”的计算需求可能增加上百万倍
...练成本,就训练出了表现不逊色于ChatGPT的顶尖模型。该消息一度让英伟达股价单日暴跌17%,单日市值蒸发约5890亿美元
2025-02-27 11:55:00
支持1024帧、准确率近100%,英伟达「LongVILA」开始发力长视频
...(涵盖系统、数据和 pipeline)是必不可少的。本文,来自英伟达、MIT、UC 伯克利、得克萨斯大学奥斯汀分校的研究者引入了 LongVILA
2024-08-22 09:51:00
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
...型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练
2024-11-13 14:09:00
更多关于财经的资讯:
中国石化在山西投资成立煤层气公司,注册资本4.5亿
近日,中石化(山西)煤层气有限公司成立,法定代表人为刘晓,注册资本为4.5亿元,经营范围包含:陆地石油和天然气开采;矿产资源勘查
2025-11-12 10:00:00
曹操出行在天津投资成立企业管理合伙企业
近日,天津优行星驰企业管理合伙企业(有限合伙)成立,出资额3500万元,经营范围包含:企业管理、信息系统集成服务、小微型客车租赁经营服务等
2025-11-12 10:00:00
方正电机成立智驱应用技术公司
近日,德清方正智驱应用技术有限公司成立,注册资本5000万元,经营范围包含:机械设备研发;信息系统集成服务;技术进出口;进出口代理等。企查查股权穿透显示,该公司由方正电机(002
2025-11-11 14:48:00
凯龙高科等成立具身智能机器人科技公司
近日,无锡市凯奇具身智能机器人科技有限公司成立,注册资本1000万元,经营范围包含:人工智能硬件销售;智能机器人销售;工业机器人销售;工业机器人安装、维修等。企查查股权穿透显示,
2025-11-11 14:48:00
纵横股份成立大鹏无人机科技公司
近日,茂名纵横大鹏无人机科技有限公司成立,注册资本1000万元,经营范围包含:智能无人飞行器制造;智能无人飞行器销售;人工智能应用软件开发;人工智能理论与算法软件开发等。企查查股
2025-11-11 15:36:00
广汽集团在贵阳新设汽车服务公司
近日,贵阳云岩长黔汽车服务有限公司成立,法定代表人为古明昊,经营范围包括新能源汽车整车销售、汽车零配件零售、机动车充电销售等。企查查股权穿透显示,该公司由广汽集团(601238)
2025-11-11 15:36:00
泰康人寿潍坊中支举办泰康三十周年新寿险成果展暨“医养盛泰 洞见未来”HWP职业新赛道发布会
11月8日,泰康人寿潍坊中支成功举办泰康三十周年新寿险成果展暨“医养盛泰 洞见未来”HWP职业新赛道发布会。活动聚焦泰康三十年发展成就与新职业机遇
2025-11-11 15:49:00
泰康人寿滨州中支举办三十周年新寿险成果展暨健康财富规划师HWP职业发布会
11月7日,泰康人寿滨州中支隆重举办三十周年新寿险成果展暨健康财富规划师HWP职业发布会。本次大会以“医养融合 幸福有约”为主题
2025-11-11 15:51:00
华电新能成立清洁能源公司,含集中式快速充电站业务
近日,石渠华电清洁能源有限公司成立,法定代表人为曾鸣,注册资本为1000万元,经营范围包含:发电业务、输电业务、供(配)电业务
2025-11-11 16:00:00
润建股份等成立能源科技公司,含光通信设备销售业务
近日,中卫数电算安能源科技有限责任公司成立,法定代表人为刘炜,经营范围包含:风力发电技术服务;太阳能发电技术服务;储能技术服务
2025-11-11 16:00:00
大唐发电在台州成立新公司,含储能技术服务业务
近日,大唐(台州)新能源有限公司成立,法定代表人为刘健,注册资本为2600万元,经营范围包含:发电业务、输电业务、供(配)电业务
2025-11-11 16:00:00
中国通号等在山西成立智能科技公司,含多项AI业务
近日,通号晋投智能科技(山西)有限公司成立,法定代表人为敦建征,注册资本为5000万元,经营范围包含:数据处理服务;人工智能双创服务平台
2025-11-11 16:00:00
华能国际成立清洁能源公司,注册资本20亿元
近日,华能(莫力达瓦)清洁能源有限公司成立,法定代表人为陈相军,注册资本为20亿元,经营范围包含:风力发电技术服务;太阳能发电技术服务
2025-11-11 16:12:00
中国电建投资成立低空科技公司
近日,中电建空港(沽源)低空科技有限公司成立,法定代表人为李梦平,经营范围包含:通用航空服务;公共航空运输;飞行训练;民用航空器驾驶员培训
2025-11-11 16:12:00
云南咖啡产业股权投资基金注册成立
近日,云南咖啡产业股权投资基金合伙企业(有限合伙)成立,出资额约3亿元,经营范围包含:以私募基金从事股权投资、投资管理、资产管理等活动。企查查股权穿透显示,该合伙企业由普洱市投资
2025-11-11 16:12:00