LangChain实战 | OutputParser:让大模型输出从 “鸡肋” 变 “瑰宝” 的关键!

科技   2025-01-02 08:01   山西  

-推荐关注-

-正文-

LangChain 的 OutputParser 是一种强大工具,用于将大模型的原始输出转换为结构化、可操作的数据格式,如 JSON 或 Python 对象。本文介绍了 OutputParser 的核心功能、应用场景及其在实际业务中的实现方法,包括使用 JsonOutputParser 和 Pydantic 定义数据结构,从而高效格式化输出内容以满足业务需求。

  • 1. 什么是输出解析器(OutputParser)?
  • 2. OutputParser的用途是什么?
  • 3. 例子:大模型返回响应后,以JSON格式返回给客户端(JsonOutputParser)
    • 3.1 引入相关的包
    • 3.2 定义模型
    • 3.3 定义解析器
    • 3.4 定义提示词(指导怎么格式化输出)
    • 3.5 调用大模型生成格式化输出
    • 3.6 在返回给用户前,增加其他业务数据
    • 3.7 最终的json数据
    • 3.8 运行日志

-- 领取学习资料大礼包,见文末

1. 什么是输出解析器(OutputParser)? 

在大模型应用中,原始输出通常只是处理的开端,尽管这些输出能够提供很好的内容,但是根据下游使用场景,语言模型生成的原始文本很大概率需要被进一步处理才能使用。

输出解析器(OutputParser)是 LangChain 中的一种工具,用于帮助将语言模型的文本响应转化为实用的格式化输出。

2. OutputParser的用途是什么? 

输出解析器有两个主要用途:

  1. 将非结构化文本转换为结构化数据。例如,将文本解析为 JSON 或 Python 对象。
  2. 向提示词注入指令,指导语言模型如何格式化响应。解析器可以提供一个 get_format_instructions() 方法,该方法会返回用于提示格式化文本的指令。

3. 例子:大模型返回响应后,以JSON格式返回给客户端(JsonOutputParser) 

我们需要大模型生成一个小说,内容以json返回,在这个基础上,增加一些其他业务数据后,给客户端以json格式返回:

{
  作者:"xx",
  年龄:"80",
  标题:"xxx",
  摘要:"xxxx",
  正文:"xxxxxx",
}
OutputParser示例流程

3.1 引入相关的包

import os  # 导入操作系统模块
import json  # 导入json模块

os.environ['OpenAI_API_KEY'] = 'hk-iwtb91e427'  # 设置OpenAI API密钥

from langchain_core.output_parsers import PydanticOutputParser, JsonOutputParser
from langchain_core.prompts import PromptTemplate
from langchain_openai import OpenAI, ChatOpenAI
from pydantic import BaseModel, Field, model_validator

3.2 定义模型

model = ChatOpenAI(  # 创建ChatOpenAI的实例
    model="gpt-4o-mini",  # 指定模型
    temperature=0,  # 设置温度
    base_url="https://api.openai-hk.com/v1"  # 设置基础URL
)

3.3 定义解析器

使用pydantic定义所需的数据结构,和基本的格式校验逻辑,并作为JsonOutputParser的参数

# 使用pydantic定义所需的数据结构
class Story(BaseModel):# 创建Story类,继承自BaseModel
    title: str = Field(description="标题")  # 科幻小说的标题
    summary: str = Field(description="摘要")  # 科幻小说的摘要
    content: str = Field(description="正文")  # 科幻小说的正文

    # 可以轻松添加自定义验证逻辑
    @model_validator(mode="before")  # 在模型验证之前进行验证
    @classmethod
    def validate_story(cls, values: dict) -> dict:# 定义验证方法
        # 这里可以添加对标题、摘要和正文的验证逻辑
        return values  # 返回验证后的值

# 设置解析器
parser = JsonOutputParser(pydantic_object=Story)  # 创建JsonOutputParser实例

3.4 定义提示词(指导怎么格式化输出)

解析器通过 get_format_instructions() 方法,返回用于提示的格式化文本指令,然后向提示注入指令,指导语言模型如何格式化响应(见运行日志)。

# 创建提示模板
prompt = PromptTemplate(  # 创建提示模板
    template="请按用户要求返回文章,包括标题、摘要和正文。\n{format_instructions}\n{query}\n",  # 模板内容
    input_variables=["query"],  # 输入变量
    partial_variables={"format_instructions": parser.get_format_instructions()},  # 部分变量
)

# 定义查询
story_query = "请给我一个100字的科幻小说。"# 查询内容

# 打印最终模板结果
final_template = prompt.format(format_instructions=parser.get_format_instructions(), query=story_query)  # 格式化最终模板
print("=================================提示词开始========================================")
print(final_template)  # 打印最终模板结果
print("=================================提示词结束========================================")

这是生成的指导提示词:

The output should be formatted as a JSON instance that conforms to the JSON schema below.

As an example, for the schema {"properties": {"foo": {"title""Foo""description""a list of strings""type""array""items": {"type""string"}}}, "required": ["foo"]}
the object {"foo": ["bar""baz"]} is a well-formatted instance of the schema. The object {"properties": {"foo": ["bar""baz"]}} is not well-formatted.

Here is the output schema:
```
{"properties": {"title": {"description""标题""title""Title""type""string"}, "summary": {"description""摘要""title""Summary""type""string"}, "content": {"description""正文""title""Content""type""string"}}, "required": ["title""summary""content"]}
```

3.5 调用大模型生成格式化输出

放到链的最后,用来格式化输出:output = prompt | model | parser

# 创建一个查询,旨在提示语言模型生成科幻小说
output = prompt | model | parser  # 将提示和模型结合
story_output = output.invoke({"query": story_query})  # 调用模型并传入查询
print("模型输出结果 :")
print(story_output)  # 打印输出
print()

3.6 在返回给用户前,增加其他业务数据

# 拼接作者和年龄信息
final_json = {
    "title": story_output['title'],
    "summary": story_output['summary'],
    "content": story_output['content'],
    "author""AI取经人",  # 作者
    "age"18  # 年龄
}

# 打印最终的 JSON 结果
print("最终的 JSON 结果:")
print(json.dumps(final_json, ensure_ascii=False, indent=4))  # 格式化打印JSON结果

3.7 最终的json数据

{
    "title""穿越时空的信号",
    "summary""在未来的某一天,科学家通过先进的量子技术接收到了来自20世纪的神秘信号。这一信号揭示了一段被遗忘的历史,改变了人类对时间的理解。",
    "content""当信号首次被接收时,整个实验室都陷入了震惊。信号中包含着关于平行宇宙的知识和未来人类的命运。科学家们决定通过量子隧道进行实验,试图与过去的自己交流。在这个过程中,他们不仅面对科技的诱惑,也直面人性的挣扎。最终,他们意识到,改变历史的代价是不可承受的,但真相仍旧摆在他们面前。",
    "author""AI取经人",
    "age"18
}

3.8 运行日志




往日文章:


--END--

点亮“赞”“在看”“分享”好友一起看

AI取经路
踏上取经路,比抵达灵山更重要! AI技术、 AI知识 、 AI应用 、 人工智能 、 大语言模型
 最新文章