伴随越来越多的AI芯片被部署到几大云Iaas上,生成式AI应用也在不断涌现,行业的发展正逐步从跑demo跟use case过渡到逐步放量的阶段,预计2025年,genAI应用将迎来加速放量。
从海外一些咨询机构与CIO的调研中可以窥探现状,一叶落而天下知秋,我们接下来一起来看看,行至2024年年中,生成式AI到底进行了哪一步了?
我们先来看看IT咨询与服务巨头埃森哲在最新季度财报披露的一些关于生成式AI项目的有关表述:
会议纪要中关于AI货币化和收费模式的讨论认为,目前,生成式AI项目主要处于实验阶段,客户大多在试验和小规模实施。因此,AI相关项目的收入仍在逐步增加,本季度生成式AI收入达到5亿美元,新增订单9亿美金,相较去年显著增长。而公司CEO Julie Sweet表示,生成式AI作为企业转型的催化剂,未来将带来更大规模的收入机会。随着企业对AI技术的接受度和应用水平提高,Accenture预计AI项目的货币化能力将大幅增强。
而关于收费模式,Accenture表示公司在生成式AI项目中采用灵活的收费模式,包括按项目收费和长期服务合同。通过为客户提供定制化的解决方案和持续的技术支持,公司在AI项目中实现了稳定的收入来源。
关于生成式AI的用例,公司说了一些典型的例子:
在2024财年第三季度财报电话会议中,Accenture对生成式AI(GenAI)的应用案例进行了详细介绍,展示了该技术在推动客户转型和业务增长中的重要作用,以下是几个关键的GenAI应用案例:
1. Currys
背景:Currys是欧洲领先的科技零售商。
项目内容:Accenture帮助Currys将其操作系统从传统数据中心迁移到新的云平台,创建强大的数字核心。
GenAI应用:迁移后,Accenture利用GenAI技术在多个关键领域部署自动化和生成式AI,包括维修中心、客户服务、电商、采购和店内体验。
效果:这次转型不仅提升了客户服务的速度和效率,还支持了公司的可持续发展目标,通过更高效的云基础设施减少了能耗。
2. Independence Health Group
背景:Independence Health Group是一家总部位于宾夕法尼亚州的领先健康组织。
项目内容:Accenture帮助Independence Health Group现代化其端到端的业务运营,改善服务质量和客户体验。
GenAI应用:迁移近200万会员到新的数字优先平台,利用生成式AI主动管理会员健康,提升服务质量。
效果:项目不仅改善了现有业务流程,还为未来的技术应用奠定了基础,同时对操作人员进行了再培训和技能提升。
3. 大型食品饮料公司
背景:这是一家全球领先的食品和饮料公司,已经建立了强大的数字核心。
项目内容:Accenture帮助其利用生成式AI创建新的价值。
GenAI应用:开发了一个数字货架控制台(Digital Shelf Console)试点项目,这是一个生成式AI引擎,可以加速电商内容创建并优化以推动销售。
效果:该引擎使营销人员能够大规模审核和定制内容,预计将内容交付时间从一年缩短到仅8个工作日,并节省高达80%的成本。一旦扩展,该系统能够以显著的时间和成本效率生成更具针对性的内容,增加销售并提升客户体验。
4. 澳大利亚国民银行(National Australia Bank)
背景:澳大利亚国民银行是该国最大的金融机构之一。
项目内容:Accenture帮助其战略性实施和扩展生成式AI,以快速创造实质性价值,提升关系驱动的客户服务,并推动运营效率。
GenAI应用:在现有战略数据平台内创建了一个安全和稳健的生成式AI平台,开发了200个生成式AI用例积压项目,其中超过20个用例已经在全行测试,8个企业级试点正在进行中。
效果:通过与Accenture共同创建的生成式AI项目方法论,确保每个阶段都能带来实际业务效益,同时在实施过程中保持安全性。
5. Saudi Arabian Airlines
背景:Saudi Arabian Airlines是沙特阿拉伯的国家航空公司。
项目内容:Accenture帮助其推出一个创新的数字平台,转型旅行者体验。
GenAI应用:通过生成式AI,平台能够提供一站式解决方案,使客户能够无缝规划行程、预订航班和修改行程,并提供个性化的会话体验。
效果:该平台将不断进化,整合更多服务,重新定义数字世界中的旅行标准。
管理层对GenAI的展望
Julie Sweet(CEO)在会议纪要中指出:AI技术的广泛应用:生成式AI正在成为客户转型的催化剂。虽然许多客户仍处于实验阶段,但越来越多的企业认识到需要进行大规模的数字核心建设以便全面实施AI。而关于未来发展:Julie强调,生成式AI不仅能够帮助企业实现显著的成本节约和效率提升,还能够驱动新的增长领域,特别是在内容生成、客户体验和运营优化等方面。
从埃森哲的进展可以窥探整个应用行业的趋势,而结合CIO的一些报告,我们可以看到企业中的生成式AI(genAI)项目正在迅速发展,从试点阶段过渡到生产阶段,解决各种业务问题,可以看到以下14个关键趋势:
1.从试点到生产的过渡:企业正在将生成式AI(GenAI)从试点项目扩展到实际生产环境。这表明企业对GenAI技术的信心增加,并且看到了其在实际业务中带来的价值。
2.GenAI作为工具而非神奇解决方案:企业逐渐认识到GenAI只是一个工具,用于解决特定的业务问题,而不是万能的解决方案。关键在于根据实际需求选择合适的应用,而不是盲目追求技术。
3.建立应用库和AI委员会:为了更好地管理和扩展GenAI应用,企业正在构建应用库和设立AI委员会。这有助于规范GenAI的使用,确保每个应用都有明确的业务目标和评估标准。
4.成本和资源的整合:GenAI需要与数据、基础设施和人力资源等其他要素协调整合。企业正在制定全面的战略,并为其投入足够的资源,以最大化GenAI的价值。
5.GPU和云计算成本的上升:随着GenAI应用的增加,企业在GPU实例上的支出也在上升。这反映了企业在硬件和云计算上的投资增加,以支持GenAI的计算需求。(PS:GPU用例上升表明企业正在进行大量的AI开发的训练与推理,而在云上去做AI应用更符合生成式AI应用的成本控制)
根据datadog的容器监控数据,基于GPU的容器化工作负载使用同比增长了58%,而非容器化的GPU计算时间增加了25%。GPU传统上用于图形和动画,但现在也用于高效训练机器学习模型、执行推理和处理大数据集。这种增长是由AI/ML工作负载的数据处理需求驱动的。
AI/ML工作流程: 预打包的容器镜像和托管的Kubernetes服务促进了基于GPU的AI/ML工作流程。
客户使用: OctoML平台报告称,由于AI的采用,GPU计算消耗大幅增加。
6.业务驱动的技术决策:企业正在基于业务需求和回报来做出技术决策。GenAI用例将根据其对成本节约和收入增长的贡献进行评估,确保每个项目都有明确的商业价值。
7.集中化管理和分布式应用:企业正在创建集中化的AI管理角色,同时鼓励各业务部门开发和实施自己的AI计划。这种方式既保证了整体战略的一致性,又鼓励了各部门的创新和应用。
8.多样化的计算选择:企业在云计算、本地服务器和私有云之间进行灵活选择,以优化计算成本和性能。多种计算模型和处理器的混合使用帮助企业更好地应对GenAI的需求。
9.自筹资金的项目:GenAI项目需要证明其成本效益。企业要求新项目通过提高生产力来自我证明投资的合理性,避免不必要的支出。
10.长期价值和持续优化:企业更加关注GenAI应用的长期价值,而不仅仅是短期的技术实现。持续优化和调整GenAI策略,以确保其在不断变化的市场环境中保持竞争力。
11.加速向云的转型:为了充分利用GenAI的优势,企业正在加速向云计算的转型。这包括改进技术堆栈,优化基础设施,并提高整体生产力。
12.新兴的LLMOps和MLOps融合:LLMOps(大语言模型操作)和MLOps(机器学习操作)正在融合,以应对大型语言模型和GPU计算的高成本。这种融合有助于优化AI项目的管理和实施。
13.GenAI加速数据分析和洞察:GenAI正在加速数据处理、模式发现和质量保证等过程,提高了企业在数据分析和洞察方面的效率。
14.小型企业的普及应用:随着GenAI平台的普及,小型企业也能够通过AWS、Fiserv等平台广泛使用AI技术。这有助于推动整个行业的数字化转型和创新。
总体来看,GenAI用例背后的核心趋势可以归纳为以下几点:
战略整合:企业正在将GenAI纳入整体战略中,与数据、基础设施和人力资源协调一致。
成本效益:GenAI项目需要证明其商业价值,强调成本节约和收入增长。
灵活计算:企业在多种计算资源之间进行优化选择,以支持GenAI的需求。
集中管理与分布实施:通过集中化管理和分布式应用,确保整体战略的一致性和各部门的创新。
长期价值:企业更加关注GenAI应用的长期业务价值和持续优化。
广泛普及:随着平台的普及,小型企业也能够广泛采用GenAI技术,推动行业整体创新。
这些趋势表明,GenAI正在成为企业数字化转型的重要组成部分,通过战略性整合和优化,最大化其业务价值。