![]()
“大模型要用起来，才能活起来。”京东云事业部总裁曹鹏表示。
作为国内知名互联网大厂，京东在AI智能场景布局上不缺技术、场景、资金、人才，更不缺将大模型与产业深度融合的勇气。自上半年运用京东云言犀自研AI驱动大姿态数字人技术，首次在业内推出互联网大厂创始人数字人直播后，日前在2024京东云峰会上，京东云又有新动作，一口气推出企业大模型服务、言犀智能体平台、智能编程助手JoyCoder、言犀数字人3.0等8大产品，为行业展示京东在大模型“最后一公里”的探索。对于企业来说，落地大模型的难点在于模型行业知识缺乏、算力不足、数据样本不足等多个方面。这些问题在京东云企业大模型服务都得到了一份答案。首先京东云企业大模型服务支持一站式打造企业专属大模型，将垂直领域知识注入到模型的同时，不损失模型的通用能力，且更加经济适用。此外通过大模型压缩技术，企业大模型服务减去对企业权重低的模型神经元，同时提高模型推理速度，使模型耗能更低。基于大模型拉升技术，通过激活更匹配企业诉求的神经元，实现特定领域数据自进化并注入拉升模型中，使得问题处理结果更符合企业使用诉求。京东云企业大模型服务的大模型推拉技术的使用，让推理侧模型显存节约70%，速度提升1.5倍，极大提升企业模型使用效率。11个月前，京东云在西安城市大会上推出言犀AI开发计算平台，该平台在解决GPU资源紧张，更大地发挥硬件的性能上作用明显。言犀AI开发计算平台能在不到一周时间，完成从数据准备、模型训练、到模型部署的全流程，之前需要10余人的科学家团队工作，现在只需要1-2个算法人员；通过平台模型加速工具优化，使用团队能够节约90%的推理成本。言犀AI开发计算平台2.0在原平台的基础上，内置20余种开源模型和丰富的数据集，提供100余种算法和工具链，提供低门槛、高性价比的大模型开发服务。京东云大模型安全可信平台涵盖超过200种特有的红蓝对抗攻击手法，覆盖监管合规要求的全部31类风险类型，风险分析准确率高达95%以上。![]()
京东云云舰AI算力云支持多地域分布式算力的统一调度，提供高性价比的算力供给。
新一代分布式存储云海3.0在性能层面持续提升，支持千亿级参数AI大模型，4K随机写IOPS达到1000万级，平均延迟在100微秒级，极致性能更好地支持大模型落地应用。
AI技术正在飞速发展与变革，新技术的不断涌现格外引人瞩目，这其中就包括AI Agent。如果说大模型是可以思考的大脑，智能体就能把大脑与四肢结合，具有自主性、感知能力、决策能力，针对特定工作任务。2023年7月，京东云发布言犀大模型，经过一年来大模型在京东供应链场景的大规模应用，在此基础上推出了新一代一站式AI Agent开发平台言犀智能体平台。目前，言犀智能体平台已接入数十个大模型，帮助用户无门槛、低成本快速搭建各类快捷应用。如今，活跃在京东内部的智能体超3300个，平台还沉淀了100多个行业解决方案模版。今年4月，京东云运用京东云言犀自研的AI驱动大姿态数字人技术，首次在业内推出互联网大厂创始人数字人引发热潮后，京东云言犀数字人不断精进，发布3.0版本。基于言犀数字人大模型，实现零样本、高可控、零幻觉的实时数字人生成。平台化，100+个性化角色，50多个行业特定属性场景，为企业和个人用户提供分钟级、个性化、风格化的数字人定制解决方案。在直播场景，打造了双人直播、试妆直播、换装直播、实景直播、多语种直播在内的多元创新玩法，正在超越80%的主播。京东云言犀数字人还活跃在文旅导览、智能导购、金融客服、个人助理等千行百业。基于大模型技术自主研发的编程工具，京东云智能编程助手JoyCoder可提供代码预测续写、注释生成代码、智能代码评审、批量生成单元测试等能力，帮助研发人员更高效地编写、阅读和优化代码。目前，京东零售、物流、健康的上万名开发者正在使用JoyCoder服务数亿用户，生成代码采纳率超过35%，研发提效30%。随着我国AI大模型数量推陈出新，市场已在思考其下半场的价值方向。对于大模型的走向，京东云的答案是：基座大模型是靠卡训出来的，企业大模型是靠人用出来的。曹鹏表示，京东供应链是大模型应用的超级孵化器，京东云持续将孵化成熟的大模型应用打磨、沉淀成产品，为客户提供服务。目前，近35万京东自有配送员、超20万商家、超5万副主任级别以上医生、超2万采销运营、超1万研发人员，已经在京东100多个AI场景开始应用。
