加速落地 京东云大模型已支持数百个场景

6月6日，京东云城市大会在成都顺利举行，大会全面展示了京东场景大模型应用效果、言犀大模型技术能力升级，支持大模型的新一代数字基础设施，持续加速产业智能化变革。

京东云相关负责人介绍，京东围绕大模型的平台构建和场景应用，进行了深入探索，从虚拟数字人主播、到AIGC生成的营销物料，从商家运营的全面智能化、到智能配送车稳定运营，大模型应用落地京东数百个应用场景，已服务数十万商家，让商家和用户全方位感受到大模型带来的技术红利。

大模型深度应用于京东场景

自去年7月，正式发布京东言犀大模型以来，京东不断在自有场景中尝试大模型的落地实践，并依托自身供应链场景，在直播带货、店铺运营、广告投放等领域，实现了大模型技术商业化落地的单点突破。

在内容生产方面，超过9万商家借助大模型，零成本制作店铺营销物料，秒级生成商品详情图等营销素材，AIGC生成内容采纳率超50%，实现大幅度的降本提效。

在数字人直播方面，大模型加持的京东云言犀数字人，目前已在超过5000间品牌直播间开播，带货GMV总量近百亿。今年4月份，“采销东哥AI数字人” 开启直播带货，1小时内观看量超2000万，这也成为数字人在直播应用中创造价值的里程碑。

自研技术加速大模型应用

大模型落地应用的关键，是在资源、性能、效果三者取得一个比较好的平衡点。

京东云自研推理引擎，协同大小模型，为大模型产业落地提供最佳实践，如通过利用推测解码，用小模型辅助大模型进行推理，加速大模型推理速度，降低成本。

在大模型应用开发上，京东云自研大模型产品，支持更高效研发运维。

在代码编写上，自研辅助编码助手JoyCoder，帮助研发人员更高效地编写、阅读和优化代码。目前，京东上万名研发人员在使用JoyCoder，生成代码采纳率超过30%，助力开发周期缩短20%。

在运维服务上，自研混合多云智能运维平台，提供指标异常检测、日志分析、故障定位等，QPS 达千万级流量时，可用率仍达到 99.9%，让监控接入更简单，故障响应更及时，大幅提升运维效率。

支持大模型的新一代基础设施

为夯实产业应用，京东云推出了一套大模型的完整工具，包括支撑大模型应用的基础设施——言犀AI开发计算平台、向量数据库、混合多云操作系统云舰、高性能存储平台云海、软硬一体虚拟化引擎京刚等核心产品。

其中，言犀AI开发计算平台，经过近一年的持续打磨，可以提供从基础资源、模型服务，到智能体构建的一站式大模型服务，让大模型的能力轻松触达每一位开发者。

在基础资源方面，平台支持GPU资源的统一管理，兼容国内外主流AI芯片，以单元化技术实现跨芯片进行任务部署和调度，实现集群算力资源充分利用。

在模型服务方面，平台提供从模型数据准备、模型训练与微调，到部署、评测的全生命周期服务，支持万卡级别的分布式训练，实现动态资源统一管理。

在智能体构建方面，平台提供一系列多模态组件与应用框架，如文生图、语音识别等多模态组件，以及检索增强生成、智能体等AI应用框架，分钟级即可启动AI Agent构建，帮助企业高敏、高效地进行AI应用的开发。

面向未来，京东云愿与合作伙伴一道，以更丰富的应用场景和领先的技术能力，助推大模型抵达产业智能。

责编：张靖雯、王瑞景