京东曹鹏：数智供应链训练产业大模型，大模型依托供应链深入产业
7月13日，2023京东全球科技探索者大会在京召开，京东集团技术委员会主席、京东云事业部总裁曹鹏在大会现场展示京东言犀大模型及其在零售、物流、健康、营销等场景的应用。同时，曹鹏还宣布，京东言犀AI开发计算平台将于8月上线。
曹鹏认为，虽然Chat类的大模型引发新一轮热潮，但对话、写诗、作画绝不是大模型的全部，作为一家新型实体企业，京东思考更多的是大模型如何与实体结合。与通用大模型相比，言犀大模型具备三大特性：更高产业属性、更强泛化能力和更多安全保障。曹鹏表示，依托于京东复杂场景的历练，言犀天然具有产业基因，更懂产业需求，可为千行百业输出更准确、更有价值的信息和判断，与实体产业深度融合。
数智供应链构建大模型最佳训练场
作为在供应链深耕的企业，京东认为，数智供应链训练了产业大模型，而大模型则依托供应链深入产业。
具体来说，供应链的链条长，带来的数据相关性比较高，而基于供应链的训练数据越多，模型越大，才有可能产生产业端的智能涌现；同时，以大模型为代表的人工智能技术，可以实时感知和动态调节供应链的运行状态，加速供应链上下游各主体之间的业务协同，进而提升供应链的响应速度和运行效率，这也是优化供应链最行之有效的方法之一。
只有将供应链做透，才能将大模型做实。天然具有产业基因的京东，为行业大模型提供了“最佳试验田”。言犀大模型源于产业、服务产业，在京东自有的健康、物流、零售等产业场景磨炼成熟后，将陆续对外开放服务，让大模型的价值在产业场景真正落地。
在健康领域，大模型创新服务体验，其多轮交互、工具调用、总结摘要、图文多模态等能力，能够帮助个人健康助手、随访管理医疗、医疗文案书写、诊疗服务调度等多场景的应用升级。
在物流领域，大模型助力持续优化成本。比如，在决策层面，大模型高效进行不同布局对比、归因分析和方案推荐，分析、理解当前的异常运营问题，给出改善建议，变被动调整为主动干预，显著提升运营效率。
在营销场景里，大模型推动极致效率提升。京东科技AI增长营销平台，沉淀海量的营销Know-How，通过大模型优化营销运营流程，将过去涉及产品/研发/算法/设计/分析师等5类以上职能才能完成的流程，压缩至1人；一个入口的全新交互模式，让人机交互次数从2000次降至50次之内，大幅提升操作效率与协作效率。
而京东最核心的零售场景，也是大模型依托供应链深入产业的过程中，最具想象力的场景。未来，大模型将促进用户交互更加便利，用户的需求得到更丰富的满足，并给予商家全链路的协助，让商机洞察和经营决策更加高效。
开发计算平台赋能行业共享大模型技术红利
为了降低企业享受大模型技术红利的门槛，京东把大模型的底层能力解耦出来，推出了言犀AI开发计算平台。
将大模型能力迁移到产业领域，实现垂直行业的“智能涌现”，并非易事。高质量的行业知识作为稀缺要素，决定了大模型的“智商”。言犀AI开发计算平台沉淀了京东在零售、物流、健康、金融等行业多年积累的知识，通过算法工具集成到平台，并部署了京东技术团队开发出的100多种训练和推理优化工具，结合低代码应用平台，为客户提供从数据建设到模型应用的一站式服务。不到一周时间，用户即可完成从数据准备、模型训练到模型部署的全流程；之前需要10余人的科学家团队工作，现在只需要1-2个算法人员；通过平台模型加速工具优化，节约90%的推理成本。
此外，京东丰富的业务场景，可以为平台上的基础大模型提供具体的行业应用场景，促进入驻企业加速基于大模型的商业化落地。
在高性能HPC方面，言犀大模型开发计算平台可提供GPU、CPU、IPU等各类型算力资源，可以针对推理速度、推理成本以及模型大小不同的业务需求，提供定制化解决方案。同时，平台还能为入驻企业提供大模型开发应用的各种硬件资源的支持。
数字基础设施筑就大模型坚实底座
大模型训练与应用对数字基础设施提出了更高的要求，基于此，京东在会上展示了大模型数字基础设施全景图。
传统数据库面对大模型训练的图片、音频、视频等非结构化数据，显得捉襟见肘，此时，专门针对此类场景的向量数据库应运而生。京东从2019年开始自主研发向量数据库，目前，向量数据库Vearch已经实现大规模落地实践：平稳支撑京东百亿级向量数据高性能检索，延迟时长降低到毫秒级，降低60%存储成本降低和80%推理成本。与此同时，京东积极助力开源生态建设。作为白金捐赠人，Vearch已捐给中国首个开源软件基金会——开放原子基金会，助力国产数据库生态蓬勃发展。
为了应对大模型训练对AI算力的迫切需求，最新升级的混合多云操作系统云舰，通过创新的异构计算池化技术，实现GPU/NPU资源成本下降50%，全面支持多云多芯多活，助力企业渐进式完成国产化替代；最新版存储平台云海，单集群每秒读写性能提升5倍，达到行业领先的千万级，延迟时间低至百微秒，存算分离技术使成本降低30%；全新的软硬一体虚拟化引擎京刚，虚拟化损耗降至零，网络性能提升高达4倍，支持100Gb VPC 网络，云硬盘单实例性能突破百万IOPS。
产业智能时代的到来，依赖于整个行业的努力。京东将秉承开放的理念，与与合作伙伴一同跨越大模型与产业深度融合这一步，抵达产业智能。
来源：金融界资讯