Hugging Face 的智能体分级

科技   2025-01-03 00:00   浙江  

定义:AI 智能体(AI Agents)是指由 LLM 输出控制工作流程的程序。

任何利用 LLM 的系统都会将 LLM 的输出集成到代码中。LLM 输入对代码工作流程的影响程度,决定了该系统中 LLM 的代理性(agency)水平。

根据此定义,“智能体”(agent)并不是一个离散的、0 或 1 的定义;相反,“代理性”是在一个连续的谱系上演变的,随着你赋予 LLM 更多或更少的控制权,其代理性会随之改变。

同时,Hugging Face 还开放了 smolagents,一个用于构建智能体的简单库。

特性:

  • 简洁性:智能体的逻辑可以控制在大约一千行代码内。将抽象设计保持在接近原始代码的最低限度!

  • 主智能体类是 CodeAgent,它以代码形式编写操作。这意味着,与 OpenAI 所设定的将工具调用写成 JSON 块的标准不同,这种智能体直接生成代码片段。这种方式对 LLM 来说更加自然,因此性能得到了显著提升。

在此 CodeAgent 类的基础上,仍然支持标准的 ToolCallingAgent,它以 JSON 或文本块的形式输出操作。

  • Hub 集成:可以在 Hub 上分享和加载工具,并且未来将推出更多功能。

  • 支持任何 LLM:支持以 transformers 版本加载的 Hub 模型,或者通过 Hugging Face 推理 API 加载的模型;同时,也支持来自 OpenAI、Anthropic 等厂商的模型,通过 LiteLLM 集成实现。

参考文献:
[1] 链接:https://huggingface.co/blog/smolagents



欢迎支持我的知识星球(NLP工程化):Dify源码剖析及答疑,Dify对话系统源码,电子书籍报告下载,公众号所有付费资料。若微信群二维码过期,则加微信buxingtianxia21进群。

NLP工程化知识星球

NLP工程化资料群

NLP工程化
专注于对话系统领域的技术分享,重点写《Dify应用操作和源码剖析》专栏。
 最新文章