项目简介
灵活强大的框架,用于管理多个AI智能体和处理复杂对话,支持智能意图分类、双语言、灵活的智能体响应和上下文管理
特点
🧠智能意图分类——根据上下文和内容动态地将查询路由到最合适的代理。
🔤双语言支持——完全用Python和TypeScript实现。
🌊灵活的代理响应——支持来自不同代理的流式和非流式响应。
📚上下文管理——维护和利用多个代理之间的对话上下文以实现连贯的交互。
🔧可扩展架构- 轻松集成新代理或自定义现有代理以满足您的特定需求。
🌐通用部署— 随处运行 - 从 AWS Lambda 到您的本地环境或任何云平台。
📦预构建代理和分类器- 提供各种即用型代理和多个分类器实现。
什么是多代理协调器❓
多代理协调器是一个灵活的框架,用于管理多个人工智能代理和处理复杂的对话。它智能地路由查询并维护交互中的上下文。
该系统提供了用于快速部署的预构建组件,同时还允许轻松集成自定义代理和对话消息存储解决方案。
这种适应性使其适用于从简单的聊天机器人到复杂的人工智能系统的广泛应用,可满足不同的需求并有效扩展。
🏗️高层架构流程图
该过程从用户输入开始,由分类器进行分析。
分类器利用代理的特征和代理的对话历史记录来选择最适合任务的代理。
一旦选择了代理,它就会处理用户输入。
然后,编排器保存对话,更新代理的对话历史记录,然后将响应传递回用户。
💬 演示应用程序
为了快速了解多代理协调器,我们提供了一个包含一些基本代理的演示应用程序。该交互式演示通过用户友好的界面展示了编排器的功能。要了解有关设置和运行演示应用程序的更多信息,请参阅我们的演示应用程序部分。
在下面的屏幕录制中,我们演示了演示应用程序的扩展版本,它使用 6 个专门代理:
旅行社:由 Amazon Lex 机器人提供支持
Weather Agent :利用 Bedrock LLM Agent 和查询 open-meteo API 的工具
餐厅代理:作为 Amazon Bedrock 代理实施
数学代理:利用 Bedrock LLM代理和两个工具来执行数学运算
技术代理:基岩LLM代理,旨在回答有关技术主题的问题
健康代理:基岩LLM代理专注于解决与健康相关的查询
观看系统在不同主题之间无缝切换上下文,从预订航班到查看天气、解决数学问题以及提供健康信息。请注意如何为每个查询选择适当的代理,即使有简短的后续输入也能保持一致性。
该演示强调了系统处理复杂的多轮对话的能力,同时保留上下文并利用跨不同领域的专业代理。
要快速了解多代理协调器,请查看我们的演示应用程序。文档和examples
夹中都提供了其他代码示例。
🎯 示例和快速入门
通过我们的各种示例获得多代理协调器的实践经验:
准备运行的脚本:使用我们的 Python 和 TypeScript 独立脚本集合在本地启动。
演示应用程序:
自动生成常见查询的响应
将复杂问题智能路由给人工支持
实时聊天和电子邮件式通信
复杂案例的人机交互
探索处理旅行、天气、数学和健康等各个领域的多个专业代理
聊天演示应用程序:
电子商务支持模拟器:通过以下方式体验人工智能驱动的客户支持:
示例项目:在
examples
夹中探索我们的示例实现:chat-demo-app
:基于 Web 的聊天界面,具有多个专业代理ecommerce-support-simulator
:人工智能驱动的客户支持系统chat-chainlit-app
:使用 Chainlit 构建的聊天应用程序fast-api-streaming
:具有流支持的 FastAPI 实现text-2-structured-output
:自然语言到结构化数据
所有示例都可以在 Python 和 TypeScript 实现中使用。查看我们的文档,获取有关设置和使用多代理协调器的综合指南!
项目链接
https://github.com/awslabs/multi-agent-orchestrator
扫码加入技术交流群,备注「开发语言-城市-昵称」
合作请注明
关注「GitHubStore」公众号