钉钉和昇腾从硬件到软件的深度协同优化，帮助企业快速、高效、稳定地落地大模型应用，加速生产、销售、研发、管理等环节迈向数智化， “一键”挖掘企业数字资产的价值。 |
由于大模型的主要模态是文字和图片，恰好是数字化办公最基础的内容要素，办公于是成了离AI最近的场景。公文写作、表格生成、提炼大纲、文本翻译、代码润色、数据统计、智能问答……越来越多的应用正在办公场景落地，曾经需要几个小时才能处理的工作，现在被压缩到了分钟级乃至秒级。特别是进入2024年后，大模型tokens窗口扩张使得百万字的无损上下文输入成为现实，衍生出了阅读论文、搜索网页，在海量资料中进行信息整理和分析的新应用场景。AI智能不断涌现，要么加入AI，要么被AI淘汰，成了“打工人”茶余饭后的谈资。不过，要把AI接入办公场景，也存在一定问题：面对效率和安全，企业该何选择的问题？不少企业多年经营，留存下了大量的数字资产，涉及内部知识、技术文档、经验分享、财务数据、业务订单等等，可以说是一家企业“核心竞争力”的源泉。AI存在一定安全风险，一旦泄密，对于企业来说，无疑是“自毁长城”。既要保障数字资产的安全，也想用AI激发出新动能。比较主流的做法是本地化部署，即将大模型部署到本地服务器上，在数据不外漏的前提下，用大模型盘活数字资产，向智能技术要效益，向私有部署要安全。理想很丰满，现实却很骨感。大模型走进企业，需要一系列软硬件支持。摆在企业面前的就是安全、性能和成本的“不可能三角”：在算力成本高企的背景下，数据安全常常对应着海量的成本投入；不想在硬件上投入太大，性能不可避免大打折扣。面对办公AI的“拦路虎”，钉钉和昇腾给出了新的解法：日前举办的HC2024昇腾产业峰会上，联合发布了“钉钉专属AI一体机解决方案，通过软硬件的深度协同，加速企业智能助理落地。之所以会出现“不可能三角”，根源在于AI在办公场景落地时普遍出现的三类痛点：随着越来越多的业务走向数字化，企业数据在终端、应用云端、数据中心间流转，链路非常复杂，导致数据要素的流通风险激增。再加上大模型的“黑箱”问题，数据一旦投喂给大模型就无法“撤回”。早在2023年4月，三星就曝出了数据泄露事件。半导体部门的工程师使用ChatGPT修复源代码问题，导致内部会议记录等数据以提问的方式上传到了ChatGPT的训练数据库。美国数据安全公司Cyberhaven曾统计160万员工使用AI的情况，发现3.1%的“打工人”曾直接将公司内部数据喂给ChatGPT分析。所以很多企业对数字资产智能化的策略是：内网部署、进行物理层隔离，从模型、数据、应用等全方位保障企业数据内容安全。本地化部署的代价也很明显，涉及算力、运维、模型微调等一系列流程，并且存在极大的不确定性。以算力基础设施为例，需要解决CPU、GPU、内存、网络等一连串挑战，单单是基本的硬件投入，就需要数十万以上的预算。如果要实现长文本阅读等高算力场景，意味着百万级、千万级的算力成本。大模型的微调和部署，同样是成本开支的大头。2023年大模型刚走红时，模型定制开发的价码一度达到上千万，即使是行业回归了理性，也需要上百万的费用。另一个不应该被忽略的是，市面上的主流大模型往往保持着按月更新的节奏，不断有新的能力被挖掘，每一次版本更新后都需要重新适配。拥抱AI是战略层面上的，落地应用则是战术层的。在战略上做出正确选择很重要，但战术上的挑战一点都不少。因为大模型的落地应用是一个不断试错的过程，存在时间周期长、落地成本高的特征。目前的技术距离通用人工智能还有不小的距离，大模型的能力可以应用到哪些业务场景中，需要一个个去尝试，再根据业务场景的实际表现进行调整测试。何况还存在“懂不懂行”的争论，开发者不懂一线员工的需求，一线员工不懂AI，无形中产生了种种内耗，制约着AI的落地进程。办公AI的落地不单单是一个技术问题，也是一个工程问题，智能化的能力和行业应用经验一个都不能少。以上种种问题，既是行业内普遍存在的现象，也是钉钉和昇腾合作的出发点。双方联合给出的解题思路正是“钉钉专属AI一体机”，在昇腾Atlas 800I A2推理服务器的使能下，能提供从算力、模型、数据库到Agent应用开发和场景部署的一站式一体化落地解决方案，让AI的落地企业，不再是复杂的系统工程，而是开箱即用的服务。面对希望快速落地大模型应用、数据安全敏感度高、担心成本大的企业诉求，钉钉和昇腾能否给出最优解？截至2023年，已经有2500万组织、7亿用户使用钉钉。隐藏在数字背后的，恰恰是钉钉在办公领域的全场景布局，涵盖协作、沟通、知识等高频场景，不仅意味着钉钉对企业办公场景需求和痛点的深刻洞察，也让钉钉拿到了AI时代的“入场券”，探索大模型在办公领域的应用前景。可以找到的动作有很多。譬如2024年初的新品发布会上，钉钉把焦点留给了AI Agent，用户只需要简单配置，即可实现智能问答、图像生成、内容创作、数据统计等能力。过去的大半年时间里，以钉钉为底座的AI产品和方案不断涌现，从底层的大模型，到RAG、混合云部署在内的学习调优，再到简单高效的Agent创建和深入知识、人事、市场、销售、产研等不同场景的Agent应用，其中就包括针对企业数字资产的专属AI解决方案和智能应用。比如面向数据资产的ChatBI，可以用自然语言随时随地查询经营数据，实现了“所想即所见”的高效率；比如面向知识资产的ChatMemo，先让大模型学习专业文档、融合图谱与向量，即可提供专家级回答；再比如面向应用资产的ChatForm，配合宜搭的无代码搭建能力，拖拉拽就能打通数据，创造智能应用……
不难得出这样的结论：钉钉的方案和能力可以满足企业数字资产向智能要效益的绝大部分需求。有了这种被千万组织、数亿用户验证过的，办公AI本地化部署方案，企业AI转型就不再需要从0到1“重复造轮子”。而深耕AI框架、算子、计算架构、网络等根技术的昇腾，接棒了高性能算力、高能效硬件、智能运维等基础设施。在硬件方面，钉钉专属AI一体机搭载的昇腾Atlas 800I A2推理服务器，支持百亿级LLM大模型推理，并可以面向中心规模部署，实现保障业务SLA要求下的最大有效输出。在软件方面， MindIE推理引擎提供针对大模型的推理、训练，可以提供通信加速、解码优化、量化压缩、调度优化等能力，全方位保障钉钉专属AI一体机的模型推理性能。其中在14B-70B大模型的推理场景下，钉钉专属AI一体机的W8A8量化压缩比W8A16提升了40%，通过HCCS多级通信优化，绝大部分模型的吞吐平均性能达到了友商的1.5倍。同样的，还有白屏化部署功能，在大模型的部署过程汇总，用户无需关注背后的技术复杂性和操作细节，而是在图形化的界面上一步步点击、配置、安装，大幅降低了模型部署的门槛，让企业更方便地接入。钉钉的大模型和场景优势，遇到昇腾的底层软硬件能力，碰撞出了1+1＞2的“协同效应”：从硬件到软件的深度协同优化，帮助企业快速、高效、稳定地落地大模型应用，加速生产、销售、研发、管理等环节迈向数智化， “一键”挖掘企业数字资产的价值。最后必须回答的问题是：钉钉专属AI一体机都有哪些落地场景，能够给企业带来什么样的价值？钉钉专属AI一体机对企业的产品资料、技术文档等进行学习后，扮演起了“销售助理”的角色，帮助销售人员快速整理产品资料，以对话的方式对比不同型号产品的差别、解答产品的应用场景，进一步提高销售人员的工作效率。衍生出的场景还有很多。比如面向售前的智能导购，根据消费者的描述和需求，筛选推荐最适合的产品；再比如销售陪练，以陪练的方式对新入职的销售人员进行水平测验，迅速成为“老司机”。过去有出差需求时，需要先提交出差申请，通过后人事预订机票和酒店，整个过程至少需要三四个小时。现在可以将相关权限下放给AI助理，只需要语音描述出差的时间、地点，即可自动完成机票和酒店的预订。以及困扰无数职场人的会议室预订，需要和每一个参会人员沟通时间，然后在OA平台上逐个查看哪个会议室是空着的。有了AI助理后，只需要确认参会人员名单，就能根据大家的日程安排自动预定会议室和会议时间。在生产制造环节，一个普遍问题是操作人员的不规范，常常需要人工指导监督，其实可以在AI的指导下，帮助生产人员明确生产流程的具体操作，严格遵循质量控制标准，保障生产过程的合规和高效。相似的还有智能检修场景，在AI的辅助下按照正确的步骤进行故障排查，结合历史维修记录快速判断故障点，甚至是获得故障预测和解决方案，通过经验和知识的快速复用，提高设备的检修效率。可以看到，钉钉专属AI一体机的落地场景并未局限在公文写作、表格生成等简单场景，深入到了销售、管理、研发、生产、维修等企业生产运作的每一个环节，而且在每一个环节都释放出了新的价值。也就是说，曾经阻碍AI本地化部署的“不可能三角”，以“降维打击”的方式被消除了，并且迸发出了源源不断的新质生产力。仅仅是在不久前举办的华为全联接大会2024上，华为就与科大讯飞、交通银行、钉钉、360在内的21家伙伴和客户，基于昇腾AI基础软硬件平台联合发布大模型推理行业解决方案，覆盖了互联网、金融、政府、政务、制造、媒资、交通等行业。另一个不应该被忽略的信息点在于，在“开放、利他”的理念下，昇腾AI已累计培养3万多名原生开发贡献者，2000多家应用伙伴孵化了4000多个行业解决方案……言外之意，钉钉专属AI一体机等产品的想象空间远未触顶，将不断被赋予更多的能力和价值。年初的时候就有不少人预言：2024年将是大模型推理元年。回头来看，预言不仅得到了充分验证，还出现了此前未曾料到的“奇迹”。在钉钉专属AI一体机等产品的帮助下，AI打破了数据安全、成本、落地门槛高等重重阻力，让AI Agent在越来越多行业生了根、发了芽。往期推荐
主理人 | 张贺飞（Alter）
前媒体人、公关，现专职科技自媒体
钛媒体、36kr、创业邦、福布斯中国等专栏作者
转载、商务、开白以及读者交流，请联系个人微信「imhefei」
