我们正站在人类历史上伟大技术变革的十字路口。AI被誉为“新电力”和“最大结构转型”，然而与此同时，它也常常被简化为“易于整合，仅需一个API调用”。这种宏大承诺与日益增长的怀疑之间的张力，使得我们有机会重新审视AI的真正潜力。

作为观察者和这个快速变革领域的学习者，我们看到一种更大的转变正在出现——这不仅是生成式AI的热潮，而是一个新的技术栈和设计范式。我们称之为“智能优先（intelligence-first ）设计”，它将AI定位为应用中的真正协作者，能够提升人类的思维能力。

真正的变革并非源自层层递进的产品更新，而是基于从根本上重新设计应用和系统，将智能和AI视为核心要素。

一、万亿美元机会：重构软件、服务和工作

生成式AI不仅正在革新传统企业软件，也在不断扩展软件的市场边界。上世纪90年代初，商业软件还只是一个小型行业，而到了2024年，这一市场已成长为6500亿美元的庞大行业，历经了从主机、客户机/服务器系统，再到云端和移动时代的多次架构转型。

在2010年代的云端和移动浪潮中，新的应用程序如Airbnb和Uber重新定义了住宿和运输行业，树立了软件重新塑造世界的先例。然而，尽管经历了这些变革，许多核心设计和“遗留应用”依然沿用为手动数据输入而构建的模式。

生成式AI推动了知识管理、软件开发和生产力方面的根本性转变，催生了人机协作的“混合团队”，其中包括AI助手、协同者和AI工人等新角色。我们相信，这种变革不仅会超越传统软件，还会涵盖服务业，重塑工作的本质。

尽管过去十年加速了行业的数字化转型，但通过软件和数据来重构业务的进程仍处于早期阶段。许多行业的数字化程度各不相同，大量领域仍未充分被现代软件解决方案覆盖。而今，AI的兴起——受硬件和软件架构进步推动——正带来一代新的系统，通过自动化流程解放人类思维能力。

这是重新构想一切的绝佳时机：不仅仅是对现有成果的覆盖和改进，而是创造性地展望未来，探索我们可以实现的全新可能性。基于服务的企业如今可以采用技术或智能优先的方法创建，而工作效率也可以通过自动化、推理和协作智能得到大幅提升。这是商业软件历史中的一个关键时刻，软件和AI的市场份额迅速增长，为创业者和拥有数字技能的现有企业带来了前所未有的机会。

二、下一个技术栈：AI 基础设施已经就绪

经过一年多的快速发展，基础模型已走向多模态，不断变得更大、更小、开放、可组合，并逐渐具备自主性，拥有更强的思维、规划和推理能力。

在过去的架构时代，“数据栈”和“应用开发栈”往往是分离的。然而，如今的现代数据栈正演变以支持AI，聚焦于非结构化数据编排和多模态能力。

Databricks借助其Mosaic AI平台走在前列，通过增强的数据湖仓架构更有效地处理AI工作负载和非结构化数据。像Pinecone和Weaviate这样的向量数据库支持“向量化”数据的存储和检索，而已有数据库如SingleStore和MongoDB在近几个月也新增了强大的向量搜索功能。LlamaIndex、Unstructured和Superlinked等公司则致力于确保LLM、智能代理和其他AI系统能够在推理时获取相关数据和上下文。Atlan、Astronomer、Patronus和Braintrust等平台则着眼于数据溯源、数据治理、编排和模型评估的嵌入，以改进AI开发流程。

AI开发框架也迅速扩展，从多模态编程抽象到链式技术、基于检索的生成（RAG）、强化学习和智能体领域的最新突破。同时，我们还看到ML Ops演变为LLM Ops，相关工具日益成熟，可确保安全部署、可观测性和对齐性。CrewAI、Gradient、Contextual、LangChain、Fireworks.ai和Unstructured等公司因其显著的投资回报率而受到开发者的广泛采用。

在回顾这些迅猛的变化和丰富的生态系统时，有一点非常明确：尽管下一代技术栈正经历着超高速创新和沉淀，重新构想和建设未来所需的基础设施和工具实际上已经逐步就绪。

三、智能优先应用的设计新模式

2024年的重要进展之一包括OpenAI的o1实现长链式复杂推理的能力、智能代理架构的兴起以及Google NotebookLM带来的“小型ChatGPT时刻”。

尽管存在“AI无护城河”的担忧和“所有应用只是模型的简单套壳”的批评，许多专注智能优先设计的开发者却在潜心打造新应用。事实证明，构建实用、复杂且可与人交互的系统并非易事，需要高度的技术与匠心。这些智能优先的应用呈现出一些核心的设计模式。

1、新型知识系统

传统的数据存储适用于简单数据库应用，而下一代应用需要更加动态且丰富的数据架构，以便在结构化、半结构化、非结构化、时序、特征存储、图形和实时数据中上下文更新与检索知识。这些应用利用“读时架构”（schema-on-read）的超级结构来跨数据类型保持关系（如知识图谱），从而灵活调整数据的消费与转换，适应AI模型的需求。系统还应具备持续学习功能，使AI合作者通过新信息的更新和记忆的优化，不断提升协作能力。

2、基于RAG查询

传统查询无法满足新知识系统的需求，而RAG通过实时从关系、图形和向量数据库中检索数据并优化结果，增强了查询过程。Glean和Harvey等公司使用RAG优化查询，以动态的实时洞察力提升应用交互，特别适合依赖实时洞察的应用程序。

3、分布式AI推理

传统应用依赖规则引擎，而智能优先应用则借助分布式认知和推理能力，将推理过程分布在多个系统节点之间，仿人脑多节点的信息处理方式。这种分布式架构增强了应用的稳健性和扩展性，尤其适用于需要理解广泛上下文的大型应用。Runway和Replit等公司正推进分布式AI的边界，使其能够在云端处理视频编辑和软件开发等复杂任务，实现实时协作。

4、多代理工作流

智能代理技术正逐渐成为智能优先应用的核心构件。个体任务AI代理如今可以在多代理系统中协调，规划并协作完成更复杂的任务。多智能体系统采用“专家混合”架构，将工作流划分为任务规划、执行和反思。CrewAI等公司正在简化多智能体系统的部署。随着对观测性、对齐性和合规性的需求增长，智能代理技术有望推动从理解与生成到推理和行动的进一步发展。

5、多模态的交互

当不再预设用户交互且人机协作时，如何重新构想这些体验？下一代应用将超越传统的代码确定型用户体验（UX），提供情境化的动态交互。这些应用不再局限于静态表单和固定仪表板，而是通过语音、文本或视觉系统等方式提供多样化的互动方式，灵活适应用户的需求。

例如，NotebookLM和MakoAI（由人工智能驱动的私募股权虚拟助理）探索了人机间更为灵活、主动的协作。为了让AI从“辅助工具”转变为真正的“AI合作者”，用户体验需要变得像与人类自然交互一样跨越多种模式，实现更加灵活、无缝的互动。

这些新设计模式为智能优先应用铺平了道路，推动AI技术朝着更具认知力、适应性和协作力的方向发展。

四、应用程序的过去和未来

许多传统软件应用（尤其是企业应用）在这场转型中正面临掉队的风险。大部分封装式应用程序的设计基于以人为核心的交互模式——人类驱动数据输入并与界面交互。这些系统高度依赖配置的固定工作流、孤立的数据存储，以及大量的外围应用、集成服务和定制解决方案来完成复杂的端到端流程。人类在这种模型中承担了拼接应用和制定流程的角色，成为智能决策的核心。

与之形成鲜明对比的是，智能优先应用带来根本性的差异。基于前述的设计模式，这些应用将重新定义工作方式，这些应用不仅将随着技术突破而演进，还将与用户行为的变化同步更新。

两者到底会有多不一样？想象一个由领先企业供应商开发的仓库管理系统，其核心设计三十年来几乎没有变化，仍然围绕以人为主的工作模式构建。而一个为机器人、机器和AI协作者为主的仓库设计的系统，两者之间的差异不言而喻。

要实现后者，智能必须成为系统的核心组成部分，利用生成式模型，提供传统系统所无法企及的功能与灵活性。

五、智能优先应用主要案例

1、深度AI应用（Deep AI apps ）

深度AI应用聚焦于解决高度复杂且特定领域的问题，往往从模型层到应用层进行全栈优化。它们因AI驱动的创新在设计、研究和模拟方面取得了突破，推动了新一代应用的诞生。

这些应用离不开先进AI模型的支持，如BeyondMath使用AI分析车辆空气动力效率，节省大量研发成本；Profluent的OpenCrispr通过训练在数百万种蛋白质和RNA上的大型语言模型实现开源基因编辑；Ambience则构建了一个AI驱动的医疗操作系统，提供一整套原生AI产品。

2、副驾驶（Co-pilots ）

协同助手提供互动支持，帮助用户实时决策，同时保持用户的控制权。它们利用自然语言接口、API和非结构化数据来提升日常工作流，既可以增强现有应用，也可以作为协调跨系统任务的主要界面。

协同助手已成为日益复杂的软件环境中的关键模式，例如Writer’s的协同助手可以通过特定领域的模型和知识图谱，自动化人力资源、营销、销售和财务中的关键工作流；NormAI结合对法规的理解和AI智能代理，实现对政策与公司合规性的自动化分析。

3、自动驾驶助手（Autopilots ）

自动驾驶助手能独立完成整个工作流和任务，不仅是简单的重复任务，还包括需要智能决策的复杂任务。这些智能代理系统集成了多种第三方工具和系统，以确保任务的顺利完成。自动驾驶助手能够全天候工作，大幅提升生产力。

例如，Cognigy的AI代理自动总结多渠道的通话或聊天内容，为客户服务代理节省数百小时；Bland的AI语音代理无需人工接听即可与客户互动，帮助组织节省时间和资源。这些助手能在必要时将任务交给人类，并通过人类反馈强化学习（RLHF）不断改进。

4、人工智能同事（AI Coworkers）

AI同事超越了任务和工作流自动化，与人类并肩工作，推动真正的协作智能时代到来。拥有推理和认知能力的AI合作者能够处理各种任务，并从自身和人类同事的工作中学习。设计正在逐步趋于成熟，有些AI合作者专注于特定角色，有些则具备基础技能以便后续深入专精。

与传统应用不同，AI同事可以管理复杂任务，无需僵化的软件结构。例如，虚拟会计师可以自动管理和组织所有数据，而不必依赖传统的会计软件。

尽管由于技术的复杂性，广泛采用可能需要时间，但Cognition (Devin)和Relevance AI（其低代码平台允许企业构建和部署定制AI代理以自动化重复任务）等公司已经开始崭露头角。

5、人机协作（AI + Human Work Fabric）

随着AI合作者和自动驾驶助手逐渐融入工作环境，软件架构需要进行演进，以适应人机协作的模式。这一转型可能会改变从传统记录系统到全新系统的价值导向，尤其是在传统服务行业，为新兴企业和现有企业带来巨大的发展机会。未来的服务型企业可以被重新定义为人机协作架构，以“服务即软件”的模式交付成果，业务模式可能会从按席位或消费定价转向以成果为基础，由人机协作驱动的结果创造价值。

一些解决方案已在实现人机实时协作，如CrewAI、Ema和Agentforce（由Salesforce开发）等。CrewAI致力于构建一个多智能体AI系统的开发平台，自动化大量任务；Ema开发的“通用AI员工”目前能承担多种角色；Sema4的AI合作者可自动执行发票核对、合规性审查和收款匹配等任务。

六、传统企业能否引领智能优先？

每次重大技术架构转型通常都会带来新的平台、基础设施和应用层的赢家。在一些情况下，新兴企业凭借其灵活性和快速部署的优势成为了市场主导者，而在其他情况下，现有企业则通过重建平台或收购新兴公司来推进创新。比如，数据库巨头Oracle曾低估了在其基础层之上构建业务的复杂性，最终通过收购PeopleSoft、Siebel、Netsuite和BEA Systems等公司来弥补这一不足。

探讨颠覆的动态过程非常有趣，因为每个产品类别中都有许多因素值得评估，如行业变化速度、现有技术人才质量、解决方案的数据权重、商业模式、分销渠道、品牌信任度和用户体验等。

HubSpot向下一代CRM转型，通过Breeze AI代理增强产品，而Salesforce则推出了AgentForce，意图在传统应用中加入智能。虽然这些传统巨头在AI时代努力重塑自己，但问题依旧：他们能否真正将智能融入几十年历史的架构中，或者智能优先应用的出现是否会催生出与过去完全不同的新一代CRM？

对于Salesforce和HubSpot这样的企业，或许改造已有系统以融入AI看似是最简单的路径。这种方式的优势在于传统企业的强大分销能力，许多公司已经使用了Salesforce，因此推广其智能代理功能比更换整个CRM系统要简单得多。然而，这种AI增强功能所带来的价值可能会受到其旧有架构的限制。

目前，许多人认为传统巨头凭借其分销优势和灵活性可能会胜出。但AI应用的变革远不止于“接通电力”那么简单。比喻虽不总是精准，但传统巨头的初步尝试更像是在蒸汽工厂中加装电灯，而不是为电力时代重新设计制造过程。要成为AI原生或智能优先应用，需要同样的重新构想和设计。

鉴于传统企业的分销优势，新兴的智能优先应用若要取胜，需比现有的AI增强应用好10倍，甚至100倍。比如，从Salesforce + Agentforce转向新型AI优先的CRM只有在性能显著提升时才有意义。如果AI优先的CRM仅略胜一筹，企业则难以说服用户转换。而前述的设计模式（如智能代理、多模式交互等）可成为新价值的切入点，即便不完全取代传统系统，也可能转移一部分核心价值。

我们相信，一个真正重新构想的智能CRM有潜力提供10倍甚至100倍的用户体验和业务成效。它将基于更高的自主性、推理能力、可扩展性、适应性，以及AI在所有工作流中的无缝集成而构建。因此，智能优先应用的未来可能不仅仅是传统系统的改进，而是实现一个为AI和人机协作而设计的全新生态系统。

七、智能优先应用的未来展望

虽然以上讨论主要围绕CRM系统，但我们相信，类似的范式转变将渗透到许多软件类别以及受软件和AI重构的相关行业。未来在AI驱动软件领域中崭露头角的公司，极有可能是那些从一开始便以智能优先架构为核心的创新者。对于开发者而言，真正的机遇并不在于谁能将AI粘合到旧平台上，而在于谁能从零开始构建全新的智能优先应用。

AI世界正在快速变化。我们坚信，今天和明天正在构建的应用程序将与过去截然不同。未来的工作模式将更加紧密地将AI与人类员工结合在一起。

八、附录：Insight Partners投资组合概览

References：

• (2020). Cloud Computing Market by Service Model, Deployment Model, Organization Size, Vertical, and Region – Global Forecast to 2025

• (2023). Gartner Forecast: Public Cloud Revenue Growth Remains Strong.

• (2023). Worldwide Enterprise Applications Software Market Shares. Retrieved from https://www.idc.com/

• (2024). Worldwide Software Market Outlook. Retrieved from https://www.statista.com/outlook/tmo/software/worldwide.

• International Labour Organization (ILO). World Employment and Social Outlook 2024. Retrieved from https://www.ilo.org

• McKinsey & Company. Generative AI and the Future of Work. Retrieved from https://www.mckinsey.com/mgi/our-research/generative-ai-and-the-future-of-work-in-america

• (2024). Business and financial services M&A update: Q2 2024. Deloitte US Corporate Finance. https://www2.deloitte.com

• (2024). Global business services insights. EY. https://www.ey.com

• Global Market Insights. (2024). Business management consulting services market trends and forecast 2024-2032. Global Market Insights. https://www.gminsights.com

• https://openai.com/index/learning-to-reason-with-llms/

• https://www.anthropic.com/news/mapping-mind-language-model

• https://x.com/lessin/status/1851257355968680131 – structured apps and notebookLM

• https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/why-agents-are-the-next-frontier-of-generative-ai

• https://arxiv.org/abs/2401.05566

• https://www.anthropic.com/news/developing-computer-use