在数字化转型的浪潮中，人工智能（AI）正逐渐成为推动企业生产效率和创新能力提升的关键力量。华为云aPaaS首席架构师陈星亮将为我们揭开了AI在企业生产中技术实践的神秘面纱。
AI Agent 企业的挑战
AI技术浪潮
AI Agent以其高度集成和智能化的特点，正在成为企业数字化转型的关键驱动力。以下是AI Agent在企业应用中的几个核心优势：
问答、交互类Agent全新体验：AI Agent能够提供自然语言处理和理解能力，使得人机交互更加流畅和直观。 通向AGI之路：AI Agent的发展是实现通用人工智能（AGI）的重要一步，它带来了众多技术研究方向，如机器学习、知识图谱、自然语言处理等。
AI Agent的有效运作依赖于一系列关键技术组件的协同工作，包括：
意图理解：AI Agent能够准确理解用户意图，提供相应的响应和服务。 中枢决策：AI Agent的决策中枢能够基于数据分析做出快速而准确的决策。 会话交互：AI Agent能够与用户进行自然语言会话，提供交互式服务。 知识查询：AI Agent能够访问和检索大量知识库，为用户提供准确的信息。 内容生成：AI Agent能够生成个性化的内容，满足用户需求。 感知接受：AI Agent能够感知用户的需求和环境变化，做出相应的反应。 数据分析：AI Agent能够对大量数据进行分析，提取有价值的信息。
Agent 面临的挑战
在通用场景中，AI Agent往往需要处理日常问题，如创作辅助等。这些任务通常需要AI Agent具备解决单一领域问题的能力。然而，这种单一技能的局限性可能会限制AI Agent在更复杂场景中的应用。
在专业场景中，AI Agent需要处理特定领域的专业问题，这要求AI Agent具备相应的专业知识。同时，还需要对大模型、传统模型、现有API进行协同调度，以实现企业业务流程的闭环。
如何AI Agent达到高可用标准？
为了达到企业对准确率超过90%的高标准要求，我们需要采取一系列措施来优化AI Agent的性能和输出质量。
通过收集和分析企业生产环境中的实际问题和解决方案，对AI模型进行微调，以提高其在特定领域的准确率。 集成企业内部的专业知识和最佳实践，构建一个全面的知识库，供AI Agent 查询和学习。
在企业生产场景中，AI Agent 需要处理的问题往往具有高度的专业性和复杂性。例如，实时的天气信息、产品的商用情况等，都要求AI Agent 提供准确、及时的信息。
如何加强AI Agent的安全防护？
基于框架的大模型应用开发模式成为主流，但框架内集成的模块或本身可能含漏洞，成为安全威胁:
大模型侧注入:攻击者通过与大模型交互方式注入恶意指令，并在框架上执行，触发相应漏洞 框架侧注入:攻击者直接针对框架本身发起攻击
华为云 AI Agent的探索实践
AI Agent的三阶七步
在企业生产环境中，引入AI Agent 以提升作业效率和解决复杂问题是一个逐步推进的过程。首先，在初阶阶段，企业需要构建基础模型，通过模型评测和建立模型池来选择合适的AI模型。
进入中阶阶段，企业将专注于领域模型训练，通过增量预训练和防幻觉措施来提高AI Agent 在特定领域的性能和准确性。
在高阶阶段，企业的目标是持续优化AI Agent 的性能，防止性能退化，并将其支撑能力平台化，以便业务开发团队能够快速迭代和应用AI技术。
企业词表
当AI Agent 遇到不理解的专业用词时，可能会出现“听不懂、说不明”的情况。例如，当用户询问“周六调休假指南”时，如果AI Agent 不理解“调休假”这一专业术语，它可能会提供不相关的内容，如国家法定假日或婚假、产假指南等，而不是用户所需的具体调休信息。
数据准入标准：确保AI Agent 训练数据的质量和相关性，以提高对专业术语的理解。 多轮理解：通过语义补齐、指代消解、场景/任务切换等技术，提高AI Agent 的多轮对话能力。 主动澄清：在对话中主动澄清语义和信息的完整性，确保AI Agent 提供的信息准确无误。
外挂知识库
模型编排
在这种模式中，小模型负责初步的感知和数据收集，然后将信息传递给大模型进行深入理解和处理。这种模式适用于需要先进行数据采集和初步处理，然后进行复杂分析的场景。
数据飞轮
通过业务系统不断获取增量业务数据，这些数据反映了最新的业务情况和用户需求，是AI Agent 持续学习和适应的关键。将日常业务操作与AI训练结合起来，形成双循环。
