在大模型领域,京东想靠布局产业应用,打开一条道路。
36氪获悉,7月13日,2023京东全球科技探索者大会暨京东云峰会上,京东言犀大模型正式推出。与通用大模型相比,该模型产业属性更强——除70%通用数据外,还融合了30%供应链原生数据。
为配套产业应用,京东还推出了一套大模型的完整工具链,包括言犀AI开发计算平台、向量数据库、混合多云操作系统云舰、高性能存储平台云海、软硬一体虚拟化引擎京刚等产品。
京东集团CEO许冉在大会上提出,大模型的价值=算法×算力×数据×产业厚度的平方。“大模型真正实现自己的价值,一定是在产业应用中。”这一理念贯穿了整场大会。
言犀AI开发计算平台和向量数据库,被京东比作大模型的“训练营”和“弹药库”。
据悉,言犀AI开发计算平台沉淀了京东在零售、物流、健康、金融等行业的Know-How,同时具备100多种训练和推理优化工具。
大会现场,京东演示了将通用大模型转化为健康产业大模型的操作。原本需要10余名科学家花费一周时间完成的工作,利用言犀AI开发计算平台,1-2名算法人员在几分钟就能完成。平台模型加速工具优化后,还能节省90%的推理成本。
而京东的向量数据库自2019年开始研发,目前已能支撑百亿级高性能检索,延时降低到毫秒级,可用性达到99.99%,已服务超过100家大中型企业用户。京东称,将向量数据库用于大模型预训练,推理成本可以降低80%。
在算力方面,京东在重庆太阳岛建立了京东全国首个超算中心——天琴α集群,其推理速度较之前提升6.2倍,推理成本可降低约90%。
同时,京东云的三个核心产品,此次也迎来升级:云舰,GPU/NPU的资源成本降低50%;云海,单集群每秒读写性能提升5倍至千万级,时延降低50%至百微秒级,使用成本降低30%;京刚,虚拟化损耗降至0,网络性能提升高达4倍,并支持100Gb VPC网络,云硬盘单实例性能突破百万IOPS。
依托京东言犀大模型,京东还在大会上发布了两大服务平台,包括全新升级的优加DaaS和言犀智能服务平台,以及面向零售、金融、城市、健康、物流五大领域的行业解决方案。目前,言犀智能服务已经应用于12345热线、银行数字员工、专家诊断场景等严肃场景。
截至目前,京东云已有供应链金融科技、产业协同、数据中台等20多个数字化场景,服务了100座城市、2500余家大型企业、944家金融机构和超250万家中小微企业。
来源:企业供图
事实上,京东从很早就开始布局大模型。2021年,京东推出十亿级模型K-PLUG,2022年推出了百亿级模型Vega,本次大会则展示了千亿级模型。
对于大模型的应用实践,京东还提出了明确的“三步走”规划。目前,京东云已经基于内部实践构建了通用大模型。京东预计在2024年初,将大模型能力向外部严肃商业场景开放。