• 我的订阅
  • 科技

一键部署!京东云全面上线DeepSeek-R1/V3

类别:科技 发布时间:2025-02-05 10:50:00 来源:中华网财经

京东云已正式上线DeepSeek-R1和DeepSeek-V3模型,支持公有云在线部署、专混私有化实例部署两种模式,供用户按需部署,快速调用。

模式一:公有云在线部署

开发者和企业可以在京东云官网,进入言犀AI开发计算平台的“AI资产市场“中,选用该模型进行一键部署。

言犀AI开发计算平台已经支持DeepSeek-V3、DeepSeek-R1以及所有蒸馏小参数模型(DeepSeek-R1-Distill)的一键部署,具体步骤如下:

1、选择基础模型

在“AI资产市场/模型”中,提供DeepSeek开源的多个版本,如DeepSeek-R1-Distill-Qwen-1.5B,点击进入卡片页可了解模型结构和预训练数据等关键信息,并查看模型文件结构。

一键部署!京东云全面上线DeepSeek-R1/V3

2、准备资源节点

在部署时,LLM模型因为模型较大,资源性能要求较高,需要独占计算卡进行部署,建议提前准备好专属资源节点。

功能路径:专属资源组-创建资源组-创建节点。

节点规格:部署DeepSeek-R1-Distill,推荐使用cap.p.n3a30.4xlarge;部署DeepSeek-V3,推荐使用cap.hc.p5h20.46xlarge

一键部署!京东云全面上线DeepSeek-R1/V3

3、模型部署使用

将模型部署到相应的服务资源上提供推理调用服务,在部署时平台将自动适配预置推理框架,实现一键部署,仅需指定使用的专属资源组和对应的节点规格。部署完成后,状态将会变为运行中,运行中的模型可被调用,提供推理服务。

功能路径:专属资源组-创建资源组-创建节点在线服务-部署;在线服务-服务列表|服务名称-在线调试

一键部署!京东云全面上线DeepSeek-R1/V3

模式二:专混模式数据不出域,私有化算力实例部署

专混私有化算力实例部署模式,已经同步上线京东云vGPU AI算力平台,为金融、企业、政府等客户提供数据不出域的私有化模型推理服务。

以DeepSeek R1版本为例,具体的使用步骤如下:

1、进入算力管理页面,点击租用新实例按钮

一键部署!京东云全面上线DeepSeek-R1/V3

2、选择资源规格以及对应带有deepseek模型的镜像

一键部署!京东云全面上线DeepSeek-R1/V3

3、资源创建成功后进入实例,启动即可与之对话

一键部署!京东云全面上线DeepSeek-R1/V3

一键部署!京东云全面上线DeepSeek-R1/V3

一键部署!京东云全面上线DeepSeek-R1/V3

京东云言犀AI开发计算平台还支持私有化部署及API快速集成,通过自研高性能资源管理与弹性调度系统,可提供大模型的全生命周期服务及部署,涵盖模型开发、推理及多场景应用扩展。

针对资源紧缺的场景,京东云支持通过蒸馏技术训练企业自己的大模型,减少模型部署所需资源的同时具备较好的性能。使用京东云vGPU AI算力平台,可以将多个蒸馏过的企业自有模型部署在同一张卡上,有效提升资源利用率70%。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-02-05 14:45:05

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

京东:推动大模型加快落地应用  助力培育发展新质生产力
...流规范等相关知识,“小哥终端智能助手”帮助超35万名京东自有配送员提升工作效率;数字人主播带货效果显著,带动闲时直播转化率提升超过30%,京东云“言犀数字人”已累计服务品牌超
2024-07-30 06:38:00
...文转自:陕西日报本报讯 (记者 苏怡 袁景智)9月26日,京东云城市大会西安站圆满落幕。京东云在会上发布数智算力矩阵,打造一站式大模型服务,为孕育大模型提供“肥沃土壤”,筑牢
2023-10-13 04:11:00
双十一与AI“联姻”:激活电商第二春的新密码?
...主播备受争议,中小主播开始各显神通;原本属于阿里、京东的“二人转”,抖音、拼多多等重磅玩家的发力则让局面更为混乱……而在暗流涌动之下,还有一双神秘大手扮演着重要角色,那就是A
2023-11-10 10:07:00
京东云携手多家企业共建大模型创新应用 加速AI在零售场景落地
7月13日,京东云联合行业头部品牌商、零售商、生态伙伴发起零售行业大模型创新应用启动仪式,携手洋河、蒙牛、伽蓝、美的、松下、博世、永辉超市、老百姓大药房、数势科技共建共创,加速A
2023-07-19 16:00:00
言犀大模型帮你精打细算,京东云助力京东11.11“又便宜又好”
截至11月11日23:59,京东11.11再创新高,购物用户数同比增长超20%,京东采销直播订单量同比增长3.8倍。在这背后
2024-11-12 21:33:00
身价大缩水1385亿,刘强东坐不住了
...见面的形式颇为独特,其将以数字人直播的形式同时亮相京东家电家居、京东超市采销直播间。而此次为刘强东数字人直播提供技术支持的幕后功臣,正是京东在人工智能技术领域推出的言犀。与刘
2024-04-17 17:35:00
北京时间11月14日,京东集团【纳斯达克代码:JD,港交所代号:9618(港币柜台)及89618(人民币柜台)】发布了2024年三季度业绩。随着越来越多的用户在京东体验到“又便宜
2024-11-14 20:15:00
京东云智能编程助手与安全大模型入选CCIA人工智能优秀案例
...智能专委会近日发布《CCIA2023年度人工智能优秀案例》,京东云申报的Joycoder智能编程助手入选“AI技术创新应用”,京东云与深圳市信息安全管理中心联合申报的“安全大
2024-04-03 11:07:00
京东云升级安全运营中心 大小模型结合实现降噪率超90%
...议结合威胁情报,对命令执行的IP进行封禁处置。”这是京东云大模型安全运营中心AISOC在风险处理中的一个场景。相较于以往需要手动人工核查安全告警,借助AISOC,安全运营工作
2024-11-08 19:10:00
业内首个!京东发布“AI京医”大模型:准确率达99.5%
快科技1月11日消息,2025京东健康年度医生盛典和数智医疗大会今天在京举行,京东健康发布了基于其线上全域场景的大模型全系产品“AI京医”。“AI京医”大模型包括一系列产品,包括
2025-01-11 21:21:00
更多关于科技的资讯: