自2024年起,商业大型AI模型的竞争愈发激烈,使得单一模型难以构建持久的竞争优势。因此,主要的技术提供商开始转向应用生态系统和平台建设,以深化大模型的应用和扩展。
在服务层面,他们基于自身的大型AI模型服务进行延伸和扩展,涉及的领域包括模型即服务(MaaS)以整合第三方或开源的大型AI模型、以计算能力租赁为核心的基础设施服务、以微调和训练大模型为主的模型开发服务,以及涵盖开发、测试和发布全流程的大模型应用开发平台服务。
不少技术供应商已经开始将大型AI模型的应用开发作为一个独立的平台或工具,这反映了业界对于大模型应用实施和生态系统构建的重视程度。
国际数据公司(IDC)最新发布的《AI原生应用开发工具市场》研究报告深入剖析了当前市场。报告强调,在商业大模型竞争日趋激烈的背景下,技术供应商正在调整战略,将焦点转向应用生态和平台建设,旨在通过多元化的服务构建更稳固的市场地位。这些服务涵盖了模型即服务(MaaS)、基础设施服务、模型开发服务以及大模型应用开发平台服务等。
01 AI原生应用开发工具市场定义
AI模型开发是指通过数据准备、模型选择、训练、推理和部署等环节来开发解决方案的过程,而AI原生应用开发是构建和实施AI应用程序的过程。在大模型和生成式AI驱动应用开发市场进一步发展的背景下,当前技术供应商提供的应用开发以App builder、AI Agent开发工具(或 Agent Builder)等产品形式为主。为开发者们提供了强大的AI能力支持,集成了在语音识别、自然语言处理、图像识别等领域技术,让开发者们能够更加方便地利用这些技术,快速构建出具备智能化、个性化特点的应用。比如智能客服或智能教育领域,App Builder为用户提供了更加便捷、高效的服务体验。AI Agent正逐步成为推动新一代人工智能应用落地的重要力量,其不仅具备强的自主决策和学习能力,还能根据具体场景需求进行任务分解与工具调用,实现高度个性化和智能化的服务。Agent 开发工具能够将大模型的潜力最大化,使之成为连接技术与应用的桥梁,加速人工智能技术的商业化进程。根据IDC报告摘要,市场主要参与者包含了头部云服务商、大模型及AI创新企业、ISV以及头部行业用户等。- 云服务商市场以阿里云、AWS、百度智能云、深信服科技、字节跳动、360等为代表,以大模型服务平台的形式对外输出产品能力;
- 大模型及AI创企以北京中数睿智、星环科技等为代表,对外提供AI Agent开发管理工具;
- 以神州数码为代表的ISV企业也提供了针对AI应用及Agent管理的相关产品;
- 运营商企业(如中国电信、中国移动等)也开始积极建设以智能体开发运营平台为重要内容的大模型深度应用综合解决方案。
中长期来看,随着大模型驱动的应用成熟度的提高,潜在的竞争将导致厂商格局发生变化,一些厂商会扩大优势,新的厂商也将逐步加入。以下是我基于IDC提供的厂商名单总结的AI应用开发工具功能对比,供参考:
评估AI原生应用开发工具的性能可以从多个维度进行,以下是一些关键的评估标准:评估工具在数据采集、清洗、标注和整合方面的能力,以及是否能够建立高质量的数据集为模型训练提供数据基础。考虑工具是否支持高效的模型训练和推理,包括是否支持大规模模型训练、高效能集群调度等关键能力。评估工具的NLP能力,包括理解和生成人类语言的能力,以及是否能够实现自然语言交互。考察工具是否支持机器学习以及大模型(如LLM)的开发和部署,这些模型是否具备强大的理解、生成、逻辑和记忆能力。评估工具是否支持自动化部署和实时监控,以及是否能够通过容器化和微服务等技术实现模型的自动化部署和管理。利用AI性能基准测试程序,如AIPerf,它使用先进的机器学习技术和真实世界任务来衡量各种AI机器的性能。AIPerf能够代表真实的AI场景,并能够自动适应不同规模的机器。根据用户反馈和市场认可度评估工具的性能,包括工具的访问量、用户满意度和市场排名等。对于支持多模态AI模型的工具,使用统一评估框架如LMMs-Eval,它提供标准化、广泛覆盖且成本效益高的模型性能评估解决方案。评估工具在代码编写能力上的表现,包括代码通过率和在不同编程语言中的表现。使用如AlignBench这样的评测工具,全面评测大模型在中文领域与人类意图的对齐度,通过模型打分评测回答质量,衡量模型的指令遵循和有用性。通过上述多维度的评估,可以全面了解AI原生应用开发工具的性能,并据此做出选择。以检索增强型生成(RAG)为代表的产品功能将占主导地位,随着AI智能体的应用趋势日益蓬勃,我们可以预期RAG将发挥越来越重要的作用。它将生成模型的流畅性和灵活性与策划信息源的可靠性结合起来,成为企业寻求在不损害准确性或相关性的情况下实施AI解决方案的有吸引力的选择,并将在行业应用中日益凸显其重要性。另外,能力强大且功能丰富的小型语言模型力量也不容小觑,企业将能够微调小型语言模型(SLMs),以便它们可以定制到特定的任务和特定领域的功能。这将满足法律和监管要求,加速语言模型的采用。最后,开放模型和专有模型之间的差距将缩小,为企业在混合或本地环境中托管生成性AI模型提供了一个极好的选择。多模态AI智能体的崛起代表了AI能力的显著飞跃。这些先进的智能体能够处理和整合多种类型的输入数据,包括文本、图像、音频甚至视频。这种多功能性在各个行业中开辟了广泛的应用范围。未来行业用户需要高度专业化的AI智能体,每个智能体都针对执行特定任务具有高度的准确性和效率。应用开发工具需要支持定制化开发,以便满足行业用户的独特需求,与数据和行业背景紧密对齐。强大的数据安全性、预购建的数据链接与管理功能、预构建的行业用例、多部署方式/易集成、开发人员培训和辅助等也是行业用户对工具未来发展的期待。欢迎添加勇敢姐,交流与合作