【新智元导读】经过了LLM、RAG、多模态等多轮技术风口的洗礼后,AI智能体的应用现状究竟如何?Langbase公司最近发布的调查报告通过11个关键问题,为我们提供了一份有价值的现状切面。
2024年,AI智能体技术无疑是科技界的焦点。
通过对来自100多个国家的3400名开发者进行深入调查,Langbase公司近日发布的一项报告揭示了智能体开发中的关键问题。这项调查的受访者中,有46%是企业领导层,26%是工程师。Langbase专注于提供无服务器的AI云开发体验。作为一个提供可组合基础设施的AI平台,他们在2024年一共处理了来自3.6万开发人员的1840亿个token和7.86亿个API请求。提起Langbase这个名字,你也许不太熟悉。事实上,这家公司非常年轻,2023年刚刚成立。
根据Crunchbase披露的数据,他们刚刚才在9月份进行了pre-seed轮融资,但已经得到了谷歌、苹果、OpenAI、微软等大厂高管们的资金支持。下面就让我们一起来看看这家年轻有为的Langbase发布的这份图文并茂的报告中究竟提到了哪些内容。
在这场AI智能体的竞赛中,OpenAI的大模型服务占据了主导地位,但谷歌正迅速崛起,成为其强劲的竞争对手,Anthropic紧随其后。其中,Meta的Llama、Mistral和Cohere虽然影响力较小,但增长势头不容忽视,显示出基座大模型市场的激烈竞争。OpenAI在翻译任务中被广泛应用,Anthropic在技术任务中备受青睐,而谷歌的模型在健康和翻译领域占据主导地位。此外,Meta在科技和科学应用中得到了广泛使用,Cohere也在多个领域得到重视,包括科学和营销。在模型的扩展和部署中,数据隐私和安全合规性成为主要关注点,「缺乏监控工具」和「高基础设施成本」这两项因素也阻碍了技术的落地应用。对AI驱动解决方案的抵制或怀疑反映了使用者们的长期顾虑,这表明,模型和技术的提供商们需要更加透明和用户友好的AI平台。在选择大型语言模型(LLM)时,准确性是最重要的因素,其次是安全性和可定制性,成本的影响相对较小。在生产环境中部署大模型和智能体面临着种种关键挑战,包括定制困难、质量保证评估方法有限,以及缺乏可重用的基础设施。此外,工具碎片化、集成问题和可扩展性等方面的顾虑进一步复杂化了这个过程。「自动化」和「简化」是AI应用的首要任务,使公司在效率和流程简化方面受益;此外,定制解决方案和提升合作流程等方面的目标,反映了大模型日益增长的灵活性,以及消费者对系统共享访问的兴趣。LLM在软件开发中得到广泛应用,尤其在市场营销、IT运营和文本摘要等方面,客服、人力资源和法律领域的使用兴趣也在日益增长。大多数受访者都需要多智能体检索增强生成(RAG)功能以提高上下文信息处理,同时,评估工具对于确保人工智能系统按预期工作也很重要。大多数受访者更喜欢能提供灵活、基础原语的开发工具以设计定制AI流水线(pipeline)。预构建的、针对特定问题的解决方案虽然可以直接解决具体问题,但它们的可定制性较低。开发者将AI智能体的版本控制视为开发平台最重要的功能。强大的SDK或库生态系统以及本地开发环境也受到重视。大多数开发者将 AI 用于实验和生产。相比之下,实验用途的比例远远大于生产用途,但后者的比例仍在稳步前进的过程中。随着AI智能体基础设施的成熟,越来越多的企业会尝试开发智能体,而随着多模态及大模型操作计算环境(例如Claude通过接口在线互动)的发展,智能体在2025年的应用将更加广泛,甚至不仅仅局限于报告中提到的软件开发、市场营销、IT运营和文本摘要等领域。然而,该调查中揭示的开发者关注的问题,例如更看重准确性、安全性和可定制性,而成本因素影响较小,以及偏好灵活、可定制的AI流水线开发工具,并重视AI智能体版本控制功能。无论技术怎么进步,这份调查结果都会对智能体平台及开发者有参考价值。参考资料:
https://langbase.com/state-of-ai-agents?genai
https://x.com/MrAhmadAwais/status/1866483416981786821