京东推出言犀大模型，从产业端切入大模型赛道 | 最前线

作者 | 周愚

编辑 | 邓咏仪

在大模型领域，京东想靠布局产业应用，打开一条道路。

36氪获悉，7月13日，2023京东全球科技探索者大会暨京东云峰会上，京东言犀大模型正式推出。与通用大模型相比，该模型产业属性更强——除70%通用数据外，还融合了30%供应链原生数据。

为配套产业应用，京东还推出了一套大模型的完整工具链，包括言犀AI开发计算平台、向量数据库、混合多云操作系统云舰、高性能存储平台云海、软硬一体虚拟化引擎京刚等产品。

京东集团CEO许冉在大会上提出，大模型的价值=算法×算力×数据×产业厚度的平方。“大模型真正实现自己的价值，一定是在产业应用中。”这一理念贯穿了整场大会。

言犀AI开发计算平台和向量数据库，被京东比作大模型的“训练营”和“弹药库”。

据悉，言犀AI开发计算平台沉淀了京东在零售、物流、健康、金融等行业的Know-How，同时具备100多种训练和推理优化工具。

大会现场，京东演示了将通用大模型转化为健康产业大模型的操作。原本需要10余名科学家花费一周时间完成的工作，利用言犀AI开发计算平台，1-2名算法人员在几分钟就能完成。平台模型加速工具优化后，还能节省90%的推理成本。

而京东的向量数据库自2019年开始研发，目前已能支撑百亿级高性能检索，延时降低到毫秒级，可用性达到99.99%，已服务超过100家大中型企业用户。京东称，将向量数据库用于大模型预训练，推理成本可以降低80%。

在算力方面，京东在重庆太阳岛建立了京东全国首个超算中心——天琴α集群，其推理速度较之前提升6.2倍，推理成本可降低约90%。

同时，京东云的三个核心产品，此次也迎来升级：云舰，GPU/NPU的资源成本降低50%；云海，单集群每秒读写性能提升5倍至千万级，时延降低50%至百微秒级，使用成本降低30%；京刚，虚拟化损耗降至0，网络性能提升高达4倍，并支持100Gb VPC网络，云硬盘单实例性能突破百万IOPS。

依托京东言犀大模型，京东还在大会上发布了两大服务平台，包括全新升级的优加DaaS和言犀智能服务平台，以及面向零售、金融、城市、健康、物流五大领域的行业解决方案。目前，言犀智能服务已经应用于12345热线、银行数字员工、专家诊断场景等严肃场景。

截至目前，京东云已有供应链金融科技、产业协同、数据中台等20多个数字化场景，服务了100座城市、2500余家大型企业、944家金融机构和超250万家中小微企业。

来源：企业供图

事实上，京东从很早就开始布局大模型。2021年，京东推出十亿级模型K-PLUG，2022年推出了百亿级模型Vega，本次大会则展示了千亿级模型。

对于大模型的应用实践，京东还提出了明确的“三步走”规划。目前，京东云已经基于内部实践构建了通用大模型。京东预计在2024年初，将大模型能力向外部严肃商业场景开放。