一个B端系统，新增AI功能的优化案例

在2024年初，AIGC技术开始在全球范围内引起广泛关注。同年第二季度，我们公司启动了【AI CRM】项目，目的是探索人工智能在客户关系管理（CRM）领域的新应用和可能性。

我有幸成为这个项目的一员，经过一年的深入研究和实践，我们成功开发并实施了几项AI应用。

我计划通过一系列文章，来整理和分享我在这一过程中的思考，以及一些有趣且成功的AI应用案例。

 前言 

对于国内SaaS厂商来说，2024年初，GPT-3.5的推出标志着人工智能技术的一次重大突破。在此之前，SaaS厂商在AI领域的解决方案主要是基于传统的机器学习技术和规则引擎的结合，虽然取得了一些成果，但在处理复杂的自然语言处理（NLP）任务时，仍然面临一些限制。

随着基于Transformer架构的预训练语言模型如GPT-3.5和BERT的出现，自然语言处理任务的性能得到了显著提升，为软件厂商带来了更加强大的AI技术支撑。

2024年3月，随着GPT-4.0的发布，国内顶尖科技企业纷纷推出了自己的大型语言模型（以下简称为LLM），例如百度的文心大模型、科大讯飞的星火大模型、阿里巴巴的通义大模型等。这些模型的推出，不仅展示了国内企业在AI领域的研发实力，也为SaaS厂商提供了更多的选择和可能性。

对于面向通用市场的SaaS CRM供应商来说，从成本效益的角度出发，直接进入中游算法模型市场并不切实际。他们应该更多地依托国内广泛使用的LLM技术，专注于探索AI在具体应用场景中的潜力。

在AIGC时代，LLM对面向企业的软件（ToB）带来了哪些变革呢？

我的答案是：交互的革新。

这种交互方式的变革，其根本在于LLM在处理自然语言方面的显著进步，这使得AI能够更准确地把握用户的真正需求。

传统CRM系统中，用户要完成一个任务（例如创建报表、撰写工作日志、进行客户跟进等），通常需要先进入相应的功能模块，然后在模块内进行多次点击操作，直到进入最终的操作界面（如报表设置页面、日志编辑页面），之后还需进行填写、确认和提交等一系列步骤才能完成。

借助LLM的能力，我们可以尝试简化这些多步骤的操作流程。例如，通过自然语言指令，用户可以直接告诉系统他们想要做什么，而系统则能够理解这些指令并自动完成相应的任务，从而大大提升了操作的便捷性和效率。

如果我们将LLM在CRM中的作用仅仅看作是一个“输入框”，认为所有业务流程都从用户的描述开始，这可能并不是一个理想的策略。

原因在于，正如白鸦老师在讨论「AI如何改变产品体验」时所指出的那样：

 

我的观点是：在面向企业的软件中，用户面临的场景往往错综复杂，有时他们甚至不清楚如何准确表达自己的需求。因此，软件产品应该利用人工智能的洞察力，在真正理解了用户的意图之后，向用户提供选项（指令）而不是开放性的问题。

接下来，我将以我最近参与的一个AI应用项目「报表智能分析」为例，分享我的一些初步见解，希望能够激发更多的思考和讨论。

1.想法的起源

这是报表产品一天内用户活跃度的追踪图表：

他们希望在工作日结束前，对当天的工作数据进行分析和总结，以便为第二天的工作策略做出调整。

然而，目前用户需要通过打开报表，然后进行一系列的筛选和深入分析操作，才能获得初步的分析结果。这个过程需要在多个不同的页面间频繁切换，显得有些复杂和耗时。

针对这一使用场景，我们是否可以利用人工智能技术，将整个流程简化到一个页面上完成呢？比如：

1. 用户点击【总结】按钮，系统自动生成分析结果。

2. 根据生成的结果，系统主动提出进一步的钻取分析问题。

3. 针对分析中发现的问题，系统提供具体的解决方案建议。

通过这种方式，我们不仅能够提高用户的操作效率，还能提供更加个性化和智能化的服务体验

如此一来，用户便能够在单一页面上，通过几次简单的点击操作，快速完成从数据收集到分析的整个流程，形成一个完整的数据分析闭环。

技术能否实现这一点呢？

在有了初步构想之后，接下来的关键任务就是将这些想法转化为实际的产品功能。然而，在实现过程中，我们遇到了不少挑战和需要解决的问题。

例如，数据总结与客户跟进总结在本质上有所不同：

「客户跟进总结」往往以纯文本的形式呈现，只需在Prompt中设定好角色、情境和目标，然后将相关内容填充进去，AI便能够根据这些预设条件生成总结。

相比之下，「数据总结」通常以结构化数据的形式存在。如果将其转换为纯文本进行处理，不仅会造成信息的冗余，还可能因为token数量的大幅增加而消耗大量的计算资源。

因此，从项目初期开始，我们的团队就决定放弃直接“调用LLM文本生成接口”的方案，转而探索其他可能的技术路径。我们的目标是找到一种既能保持数据的结构化特性，又能充分利用AI能力进行高效分析和总结的方法。

庆幸的是，当时合作的LLM刚好上架了ChatFile插件，支持基于doc、pdf的格式传参，这解决了我们的痛点。

方案大概是：把看板的数据以表格的形式生成一份doc，然后利用ChatFile的能力，让LLM解析doc后再进行总结分析。

刚开始，流程顺利跑通了，但问题又接踵而来，由于插件服务还处于初期阶段，并不支持流式输出，导致每次从上传、解析到总结，平均耗时30秒以上。

“让用户在看板页面上等待30秒以生成结果，这种体验无疑是令人不满的。”

因此，我们不得不寻找其他的解决方案，例如：将看板的数据转化为文字描述形式的报告，然后将这些报告分割并存储在向量数据库中。根据用户的查询，从向量数据库中检索出最相关的片段，接着构建Prompt并调用LLM文本生成接口（但后来由于其他因素，这个方案也并未被采纳）。

通过持续的尝试和探索，我们似乎又回到了起点。最终，我们采用了一种方法：先将看板的数据通过业务算法模型进行清洗，然后转换成Markdown格式，再构建Prompt并调用LLM。这个方案在确保token消耗处于可控范围内的同时，显著减少了生成总结所需的时间，平均耗时缩短至5秒以内。

这表明在技术层面上，我们已经找到了实现这一目标的可能性，这无疑是向前迈出了关键的一步。

"选择题而非填空题"的理念，意味着在数据看板的AI总结完成后，我们仅完成了满足用户"是什么"（what）需求的第一步。接下来，我们需要进一步探索"何时"（when）、"谁"（who）、"为什么"（why）等更深层次的需求。

在报表分析的场景中，这通常涉及到"钻取分析"，例如：

- **when**：客户联系跟进的趋势是怎样的？哪个时间段是高峰？

- **who**：哪些员工的业绩出现了下滑？

- **why**：业绩下滑的原因是什么？

尽管在AIGC时代，"输入框"可以极大地简化许多传统的操作，如点击和页面切换，但如果完全依赖于用户通过打字来描述问题，这并不是一种智能的做法。因为用户仍需要投入时间和精力来明确自己的需求并用文字表达出来，这在一定程度上降低了操作的效率和便捷性。

基于LLM返回的初步分析结果，我们利用用户的角色信息、使用行为、数据偏好以及看板的配置等多维度数据进行深入的大数据分析和建模。通过这一过程，我们能够提炼出潜在的钻取分析问题。在用户界面上，这些分析问题以选项（命令）的形式呈现，使用户能够通过简单的选择来进一步探索数据，而不是通过复杂的文字描述。这样的设计不仅提高了用户体验，也使得数据分析过程更加直观和高效。

在后续的使用过程中，系统将根据用户选择提问类型的频率，将这些反馈信息输入到权重算法模型中。通过动态调整参数，系统能够不断优化推荐效果，以更好地适应用户的需求和使用习惯。

但这并不意味着我们要完全放弃输入框。在方案中，我们仍然需要保留“输入框”功能，以解决用户的个性化问题和需求。

应用的连接和闭环形成

最终，我们需要解决的是"怎么做"（how）的问题。例如，作为销售管理者，当发现员工的业绩数据出现下滑时，应该采取哪些措施呢？

基于规则引擎，结合钻取分析的结果，系统可以支持连接不同的业务应用，为用户提供针对性的解决方案：

- 对于业绩下滑的员工，可以创建一个会话讨论，以便及时了解情况并提供帮助；

- 对于面临业绩压力的员工，可以适当调整他们的销售目标，以减轻压力并保持动力；

- 对于客户跟进不积极的员工，可以创建一个客户跟进任务，以提醒和激励他们更加积极地与客户沟通。

通过这种方式，我们不仅能够提供数据分析，还能够提供实际的业务支持和解决方案，形成一个完整的闭环，帮助用户更有效地应对各种情况。

通过这种方式，我们成功实现了在单一页面上完成以往需要跨越4到5个页面并执行一系列复杂操作才能完成的任务。

以下是我录制的一个演示视频，详细展示了这一过程：[演示视频链接]

看到这，可能有人会疑惑：引入LLM是否意味着"ToB软件的交互方式将从GUI（图形用户界面）完全转变为LUI（语言用户界面）"？

但我认为，GUI和LUI之间并不是简单的替代关系，它们应该是相互补充、相互融合的。毕竟，用户最关心的是产品能否高效地解决他们的问题，而不是产品采用了什么样的交互方式。

 结语 

在这里，我想分享两个观点：

1. 近两年，AI技术的发展不断刷新我们的认知。但在ToB软件领域，厂商们仍需保持谨慎，合理控制LLM的应用比例。目前，LLM在业务逻辑理解方面还存在不足，并非所有功能模块都适合引入AI。作为产品经理，我们应该以"为用户提供有用、易用、好用的解决方案"为出发点，客观评估AI在各个功能模块中的实质性价值。

2. AI的场景化应用，本质上是"AI+场景化应用"。许多软件厂商在AI大模型的选择上，更倾向于与LLM厂商合作。这意味着，产品的核心竞争力在于"场景化应用"。这要求产品经理对不同行业用户的业务场景有深入的理解，能够从中挖掘出真正的需求。同时，提高"数据思维"，利用厂商积累的数据资源来弥补通用AI模型的不足，"AI+大数据"可能是一个值得探索的方向。

作者：产品曼巴

来源微信公众号

题图来自 Unsplash ，基于 CC0 协议，如有侵权，请联系VX：pmtalk123删除