【数据来源和方法：本报告总结了 2024 年 9 月 24 日至 10 月 8 日期间对 600 名美国员工人数为 50 人或以上的企业的 IT 决策者进行的调查数据。在这些基础数据上，我们叠加了作为该领域活跃投资者的观点和见解。】
一、从试产到投产
2024 年标志着生成式 AI 成为企业关键任务的一年。这些数字讲述了一个戏剧性的故事：今年 AI 支出激增至 138 亿美元，是 2023 年 23 亿美元的 6 倍多——这清楚地表明企业正在从实验转向执行，将 AI 嵌入其业务战略的核心。
注：生成式 AI 支出包括用于基础模型、模型训练 + 部署、AI 专用数据基础设施以及来自初创公司和现有企业（例如 Microsoft Copilot、Salesforce Agentforce、Adobe Firefly）的新型生成式 AI 应用程序的资金。请注意，此市场规模不包括芯片（例如 Nvidia）、计算（例如 AWS、GCP、Azure）或 AI 功能（例如 Intuit Assist）的收入。
支出激增反映出组织乐观情绪的浪潮；72% 的决策者预计在不久的将来，生成式 AI 工具将得到更广泛的采用。这种信心并非只是推测——从程序员到医疗保健提供者，生成式 AI 工具已经深深嵌入到专业人士的日常工作中。
尽管前景乐观且投资不断增加，但许多决策者仍在摸索什么对他们的企业有用，什么对他们无用。超过三分之一的受访者对如何在其组织内实施生成式人工智能没有清晰的愿景。这并不意味着他们的投资毫无方向；这只是强调我们仍处于大规模转型的早期阶段。企业领导者才刚刚开始了解生成式人工智能将对其组织产生的深远影响。
去年，我们的《2023 年企业生成式人工智能现状报告》记录了早期人工智能实验的一段时期。我们的 2024 年报告扩展了对 600 名美国企业领导者的见解， 揭示了随着组织从试点转向生产而出现的趋势，使人工智能成为企业的当务之急。
二、生成式人工智能支出表明企业承诺不断增加
如今，企业对生成式 AI 的投资有 60% 来自创新预算，这反映出生成式 AI 的应用尚处于早期阶段。然而，40% 的生成式 AI 支出来自更长期的预算（其中 58% 是从现有拨款中重新分配的），企业对 AI 转型的承诺日益坚定。
虽然基础模型投资仍是企业生成式 AI 支出的主导，但受益于基础设施层面设计模式的融合，应用层现在增长更快。企业正在利用这些工具优化跨部门的工作流程，从而创造巨大价值，为更广泛的创新铺平道路。
应用层，其中首次出现突破，新的市场机会正在为初创企业打开； 现代人工智能堆栈，其中 LLM 军备竞赛正在重塑竞争格局，特定的基础设施模式正在得到广泛采用。
三、深入研究应用程序：应用层正在升温
2024 年，大部分行动都发生在应用层。随着许多架构设计模式的建立，应用层公司正在利用 LLM 跨领域的能力来解锁新的效率和功能。企业买家抓住了这一时机，在 2024 年向生成式 AI 应用投入了 46 亿美元，几乎比去年报告的 6 亿美元增长了 8 倍。
企业不仅在加大投入，而且在谋划更大。平均而言，企业已确定了这项变革性技术的 10 个潜在用例，表明其目标广泛而雄心勃勃。其中近四分之一（24%）被列为近期实施的优先事项，凸显了实际部署的强劲势头。这仅仅是个开始。大多数企业仍处于采用的早期阶段，只有少数用例投入生产，而三分之一（33%）仍在进行原型设计和评估。
四、企业内部：排名最有价值的用例
尽管实验仍在进行中，但明显的采用趋势表明，部分用例已经通过提高生产力或运营效率带来了切实的投资回报：
Code Copilot以 51% 的采用率领先，使开发人员成为 AI 最早的高级用户。GitHub Copilot迅速攀升至 3 亿美元的营业收入证实了这一轨迹，而Codeium和Cursor等新兴工具也在快速增长。除了通用的编码助手之外，企业还在购买特定任务的 Copilot，例如用于管道生成和测试自动化的Harness * AI DevOps Engineer 和 QA Assistant，以及能够执行更多端到端软件开发的AI 代理，例如All Hands *。 支持聊天机器人的使用率很高，企业采用率为 31%。这些应用程序为内部员工和外部客户提供可靠的全天候知识型支持。Aisera 、 * Decagon和Sierra的代理直接与最终客户互动，而Observe AI * 则在通话期间为联络中心代理提供实时指导。 企业搜索 + 检索和数据提取 + 转换（分别为 28% 和 27%）反映了企业对挖掘和利用分散在组织中的数据孤岛中隐藏的宝贵知识的强烈渴望。Glean 和 Sana* 等解决方案可连接到电子邮件、即时通讯和文档存储，从而实现跨不同系统的统一语义搜索，并提供由 AI 驱动的知识管理。 会议摘要在用例中排名第五（采用率为 24%），通过自动记录笔记和摘要来节省时间并提高工作效率。Fireflies.ai 、Otter.ai和 Sana 等工具可以捕获和总结在线会议，而Fathom 则可以从视频中提取要点。Eleos Health * 将这一创新应用于医疗保健，自动完成数小时的文档记录并与 EHR 直接集成，以便医疗保健提供者可以专注于患者护理。
我们的数据显示，组织主要投资于实际的、ROI 驱动的用例。前五大用例（代码生成、聊天机器人、企业搜索、数据转换和会议摘要）侧重于提高生产力和效率。
五、代理和自动化：人工智能掌控一切
当前的实施模式表明，人们更倾向于增强人工工作流程，而不是完全自动化。但我们现在正接近向更自主的解决方案过渡。能够独立管理复杂端到端流程的人工智能代理的早期例子正在各个行业涌现。
金融后台工作流程中的Forge和Sema4等先驱以及Clay 的上市工具展示了完全自主的生成人工智能系统如何改变传统上由人类主导的行业，并指向未来的“服务即软件”时代，其中人工智能驱动的解决方案提供传统服务提供商的功能，但完全通过软件运行。
六、自行开发还是购买？具体问题具体分析
在决定自建还是购买时，企业发现两者的比例几乎持平：47% 的解决方案是内部开发的，而 53% 的解决方案来自供应商。这与 2023 年相比发生了明显变化，当时我们报告称 80% 的企业依赖第三方生成式 AI 软件，这表明许多企业越来越有信心和能力建立自己的内部 AI 工具，而不是主要依赖外部供应商。
七、长期博弈：企业在采用生成式人工智能时优先考虑价值而非短期利益
在选择生成式 AI 应用程序时，企业有明确的优先事项：投资回报率和行业特定定制在选择新工具时最为重要。令人惊讶的是，价格并不是主要问题；我们调查的企业领导者中，只有 1% 的人提到价格是选择时需要考虑的问题。买家正在打持久战：与提供最低价格（1%）的工具相比，他们更关注能够提供可衡量价值（30%）和了解其工作独特背景（26%）的工具。
尽管企业在投资回报率和定制方面尽职尽责，但他们可能会错过实施难题的关键部分。通常，组织发现他们低估了技术集成、持续支持和可扩展性的重要性，但为时已晚。这有点像仅基于燃油效率购买汽车，后来才意识到服务可用性和易于维护对长期而言同样重要。
当 AI pilots 出现卡顿或失速时，通常是由于在选择过程中没有充分考虑挑战。尽管买家不会检查价格标签，但 26% 的失败pilots提到实施成本，这常常让他们措手不及。数据隐私障碍（21%）和令人失望的投资回报率 (ROI)（18%）也让pilots偏离了航向。技术问题，尤其是幻觉（15%），是失败的主要原因。在规划和选择阶段主动解决这些潜在陷阱可以增加成功实施的可能性。
八、附加与突破：现有企业更容易受到初创企业的干扰
去年，现有企业通过“附加”战略主导了企业市场，该战略将生成式 AI 功能分层到现有产品上。我们曾预测初创公司将日益占据优势，今年的数据证实了我们的想法：虽然 64% 的客户仍然喜欢从现有供应商处购买产品，理由是信任和开箱即用的功能，但现有企业的主导地位开始出现裂痕。我们的数据显示，人们的不满情绪日益加深：18% 的决策者对现有产品表示失望；而 40% 的人质疑他们目前的解决方案是否真正满足他们的需求，这表明创新型初创公司有机会介入并占据一席之地。
九、各部门转型
如今，生成式人工智能的采用不仅规模惊人，而且范围也十分广泛。今年，生成式人工智能的预算流向了每个部门。
毫无疑问，技术部门占据了最大的支出份额，其中 IT（22%）、产品 + 工程（19%）和数据科学（8%）合计占企业生成式 AI 投资的近一半。剩余预算分布在面向客户的职能部门，例如支持（9%）、销售（8%）和营销（7%）、包括人力资源和财务在内的后台团队（各占 7%）以及设计（6%）和法律（3%）等较小的部门。
十、垂直人工智能应用的兴起
第一批生成式 AI 应用是用于文本和图像生成的横向解决方案，但到 2024 年，越来越多的应用开始将 LLM 的新功能应用于高度特定领域的垂直化工作流程。以下垂直行业正在引领采用：
医疗保健：医疗保健传统上采用技术的速度较慢，但目前正以 5 亿美元的企业支出引领生成式 AI 的采用。Abridge 、Ambience、Heidi和Eleos Health 等环境记录器正成为医生办公室的必备品，而自动化解决方案正在整个临床生命周期中涌现——从分诊和接收（例如Notable）到编码（例如SmarterDx、Codametrix）和收入周期管理（例如Adonis、Rivet *）。 法律：法律行业历来抵制科技（企业在 AI 上的支出达 3.5 亿美元），但现在正采用生成式 AI 来管理大量非结构化数据并自动化复杂的基于模式的工作流程。该领域大致分为诉讼和交易法，有许多分支专业。Everlaw* 扎根于诉讼，专注于法律保留、电子取证和庭审准备，而Harvey和Spellbook则通过合同审查、法律研究和并购解决方案推动交易法中的 AI 进步。特定实践领域也针对 AI 创新：EvenUp专注于伤害法，Garden专注于专利和知识产权，Manifest专注于移民和就业法，而Eve * 正在重新设计从客户接收到解决方案的原告案件处理方式。 金融服务：金融服务（企业在 AI 上的支出高达 1 亿美元）拥有复杂的数据、严格的法规和关键的工作流程，因此已为 AI 转型做好了准备。Numeric* 和 Klarity 等初创公司正在彻底改变会计，而Arkifi和Rogo则通过先进的数据提取加速金融研究。Arch * 正在使用 AI 颠覆 RIA 和投资基金的后台流程。Orby和 Sema4 是更广泛的横向解决方案，从对帐和报告开始，而Greenlite和Norm AI则提供实时合规监控，以跟上不断变化的法规。 媒体和娱乐：从好莱坞大银幕到创作者的智能手机，生成式人工智能正在重塑媒体和娱乐业（企业在人工智能方面的支出达 1 亿美元）。Runway 等工具现已成为工作室级必备工具，而Captions和Descript等应用程序则为独立创作者提供支持。Black Forest Labs、Higgsfield、* Ideogram、Midjourney和Pika等平台为专业人士拓展了图像和视频创作的界限。
十一、深入探究：基础设施和现代人工智能堆栈
经过一年的快速发展，现代 AI 堆栈在 2024 年趋于稳定，企业围绕构成大多数生产 AI 系统运行时架构的核心构建块进行凝聚。
十二、LLM 趋势：OpenAI 向人择学习让路，多模型策略盛行
企业不再依赖单一供应商，而是采取务实的多模型方法。我们的研究表明，组织通常在其 AI 堆栈中部署三个或更多基础模型，并根据用例或结果路由到不同的模型。这一策略延伸到开源与闭源之争，尽管行业讨论激烈，但偏好仍然保持稳定。闭源解决方案以 81% 的市场份额支撑着绝大多数使用，而开源替代方案（以 Meta 的Llama 3为首）保持稳定在 19%，仅比 2023 年下降了一个百分点。
在闭源模型中，OpenAI的先发优势有所减弱，企业市场份额从 50% 下降到 34%。主要受益者是Anthropic，*随着一些企业在新模型成为最先进的模型时从 GPT-4 转向 Claude 3.5 Sonnet，其企业占有率从 12% 翻了一番，达到 24%。在转向新的 LLM 时，组织最常提到安全性和安全考虑（46%）、价格（44%）、性能（42%）和扩展功能（41%）作为动机。
十三、设计模式趋势：RAG 增益、微调罕见、代理爆发
企业 AI 设计模式（用于构建高效、可扩展 AI 系统的标准化架构）正在快速发展。RAG（检索增强生成）目前占据主导地位，采用率为 51%，较去年的 31% 大幅上升。与此同时，微调（经常被吹捧，尤其是在领先的应用程序提供商中）仍然出奇地少见，只有 9% 的生产模型经过微调。
今年最大的突破是什么？Agentic 架构首次亮相，并且已经为 12% 的实施提供支持。
十四、矢量数据库、ETL 和数据管道：RAG 的基础
为了支持 RAG，企业必须高效地存储和访问相关查询知识。虽然Postgres (15%) 和MongoDB (14%) 等传统数据库仍然很常见，但 AI 优先解决方案继续获得发展。Pinecone 是一个 AI 原生矢量数据库，已经占据了 18% 的市场份额。数据 ETL/准备领域也发生了类似的转变。传统 ETL 平台（例如Azure Document Intelligence）仍然占部署的 28%，但Unstructured * 等专门用于处理 PDF 和 HTML 等文档中非结构化数据细微差别的工具正在开辟自己的空间，占有 16% 的市场份额。在整个堆栈中，我们看到对专门为满足现代 AI 需求而构建的技术的需求。
十五、我们的预测
2024 年是转型和发展的一年，因为我们在 2023 年记录的炒作浪潮让位于现实世界的实施。根据我们今天分享的数据和我们作为投资者观察到的趋势，以下是我们对未来的三个预测：
代理将推动下一波转型。
代理自动化将推动下一波人工智能转型，解决复杂、多步骤的任务，这些任务超出了当前专注于内容生成和知识检索的系统的能力。Clay 和 Forge 等平台预示着高级代理将如何颠覆价值 4000 亿美元的软件市场，并蚕食价值 10 万亿美元的美国服务经济。这种转变将需要新的基础设施：代理身份验证、工具集成平台、人工智能浏览器框架以及人工智能生成代码的专用运行时。 大卫战胜歌利亚：更多老牌企业将倒下。
ChatGPT对Chegg和Stack Overflow的冲击是一个警钟：Chegg的市值蒸发了85%，而Stack Overflow的网站流量减半。其他类别也面临着颠覆的机会。像Cognizant这样的IT外包公司和像UiPath这样的传统自动化公司应该为进入市场的AI原生竞争者做好准备。随着时间的推移，即使是Salesforce和Autodesk这样的软件巨头也将面临AI原生竞争者的挑战。 看不到缓解的迹象：人工智能人才短缺问题愈演愈烈。
我们正处于大规模人才短缺的边缘。随着人工智能系统的普及和日益复杂，科技行业将面临严重的人才短缺。这不仅仅是数据科学家的短缺，更是能够将高级人工智能能力与特定领域专业知识相结合的专家的严重缺口。人才库已经非常少了。准备好迎接激烈的竞争吧，已经收入丰厚的人工智能技术企业架构师的 2-3 倍工资溢价将成为常态。尽管在培训计划和人工智能卓越中心方面进行了投资，但人才缺口仍将超过这些努力，加剧了对推动下一波人工智能创新所需的有限人才的激烈竞争。
十六、这仅仅是个开始
人工智能正在为新时代的转型铺平道路，这一时代由尖端的人工智能工具、赋能的劳动力和变革性的商业模式推动，将重塑我们的经济。我们在我们的投资组合中亲眼目睹了这一转型：
人工智能使诺贝尔奖获得者、Vilya和Xaira Therapeutics联合创始人 David Baker能够通过计算生成新的潜在药物并预测其结构和功能，从而帮助加速为有需要的患者开发新的救命治疗方法。 人工智能使大陆集团、米其林和雀巢等制造商能够掌握部落知识并维持高标准的工厂工作。使用Squint，他们将教学材料转化为沉浸式增强现实体验，提供实时、分步指导和验证，以提高安全性、减少操作员错误并确保一致的产量。 人工智能使公司能够更快、更可靠地识别顶尖工程人才，通过自动化编码评估、个性化问题难度和检测抄袭，使用CodeSignal以更高的准确度和效率评估技术技能。 人工智能使Abnormal Security能够保护企业免受网络钓鱼和商业电子邮件入侵等复杂的电子邮件威胁，通过检测异常并在攻击造成危害之前阻止攻击，每年可避免高达 400 万美元的潜在损失。 人工智能让耐克、星巴克和 LG 电子等公司能够利用Typeface大规模制作个性化的品牌内容。借助 Typeface，品牌可以将广告产量提高四倍，将制作时间缩短一半，每月节省数百小时，同时还能提供能引起客户共鸣的引人入胜的内容。
