如何从零开始创建 ReAct 代理 (功能性 API)¶

先决条件

本指南假定您熟悉以下内容

本指南演示了如何使用 LangGraph 功能性 API 实现 ReAct 代理。

ReAct 代理是一个工具调用代理，其运作方式如下

向聊天模型发出查询；
如果模型未生成工具调用，我们将返回模型响应。
如果模型生成工具调用，我们将使用可用的工具执行工具调用，将它们作为工具消息附加到我们的消息列表，并重复此过程。

这是一个简单且通用的设置，可以通过内存、人工参与功能和其他功能进行扩展。有关示例，请参阅专门的操作指南。

设置¶

首先，让我们安装所需的软件包并设置我们的 API 密钥

%%capture --no-stderr
%pip install -U langgraph langchain-openai

import getpass
import os


def _set_env(var: str):
    if not os.environ.get(var):
        os.environ[var] = getpass.getpass(f"{var}: ")


_set_env("OPENAI_API_KEY")

设置 LangSmith 以获得更好的调试体验

注册 LangSmith 以快速发现问题并提高 LangGraph 项目的性能。LangSmith 允许您使用跟踪数据来调试、测试和监控使用 LangGraph 构建的 LLM 应用程序 —— 在文档中阅读更多关于如何开始的信息。

创建 ReAct 代理¶

现在您已经安装了所需的软件包并设置了环境变量，我们可以创建我们的代理。

定义模型和工具¶

让我们首先定义我们将在示例中使用的工具和模型。在这里，我们将使用一个占位符工具，该工具获取某个位置的天气描述。

我们将在此示例中使用 OpenAI 聊天模型，但任何支持工具调用的模型都适用。

from langchain_openai import ChatOpenAI
from langchain_core.tools import tool

model = ChatOpenAI(model="gpt-4o-mini")


@tool
def get_weather(location: str):
    """Call to get the weather from a specific location."""
    # This is a placeholder for the actual implementation
    if any([city in location.lower() for city in ["sf", "san francisco"]]):
        return "It's sunny!"
    elif "boston" in location.lower():
        return "It's rainy!"
    else:
        return f"I am not sure what the weather is in {location}"


tools = [get_weather]

API 参考: ChatOpenAI | tool

定义任务¶

接下来我们定义将要执行的任务。这里有两个不同的任务

调用模型: 我们希望使用消息列表查询我们的聊天模型。
调用工具: 如果我们的模型生成工具调用，我们希望执行它们。

from langchain_core.messages import ToolMessage
from langgraph.func import entrypoint, task

tools_by_name = {tool.name: tool for tool in tools}


@task
def call_model(messages):
    """Call model with a sequence of messages."""
    response = model.bind_tools(tools).invoke(messages)
    return response


@task
def call_tool(tool_call):
    tool = tools_by_name[tool_call["name"]]
    observation = tool.invoke(tool_call["args"])
    return ToolMessage(content=observation, tool_call_id=tool_call["id"])

API 参考: ToolMessage | entrypoint | task

定义入口点¶

我们的入口点将处理这两个任务的编排。如上所述，当我们的 call_model 任务生成工具调用时，call_tool 任务将为每个工具调用生成响应。我们将所有消息附加到单个消息列表中。

提示

请注意，由于任务返回类似 future 的对象，因此以下实现并行执行工具。

from langgraph.graph.message import add_messages


@entrypoint()
def agent(messages):
    llm_response = call_model(messages).result()
    while True:
        if not llm_response.tool_calls:
            break

        # Execute tools
        tool_result_futures = [
            call_tool(tool_call) for tool_call in llm_response.tool_calls
        ]
        tool_results = [fut.result() for fut in tool_result_futures]

        # Append to message list
        messages = add_messages(messages, [llm_response, *tool_results])

        # Call model again
        llm_response = call_model(messages).result()

    return llm_response

API 参考: add_messages

用法¶

要使用我们的代理，我们使用消息列表调用它。根据我们的实现，这些可以是 LangChain message 对象或 OpenAI 样式的字典

user_message = {"role": "user", "content": "What's the weather in san francisco?"}
print(user_message)

for step in agent.stream([user_message]):
    for task_name, message in step.items():
        if task_name == "agent":
            continue  # Just print task updates
        print(f"\n{task_name}:")
        message.pretty_print()

{'role': 'user', 'content': "What's the weather in san francisco?"}

call_model:
==================================[1m Ai Message [0m==================================
Tool Calls:
  get_weather (call_tNnkrjnoz6MNfCHJpwfuEQ0v)
 Call ID: call_tNnkrjnoz6MNfCHJpwfuEQ0v
  Args:
    location: san francisco

call_tool:
=================================[1m Tool Message [0m=================================

It's sunny!

call_model:
==================================[1m Ai Message [0m==================================

The weather in San Francisco is sunny!

完美！图表正确调用了 get_weather 工具，并在收到来自工具的信息后响应了用户。查看 LangSmith 跟踪此处。

添加线程级持久性¶

添加线程级持久性使我们能够支持与代理的对话体验：后续调用将附加到之前的消息列表，从而保留完整的对话上下文。

要向我们的代理添加线程级持久性

选择一个检查点：在这里我们将使用 MemorySaver，一个简单的内存检查点。
更新我们的入口点以接受先前的消息状态作为第二个参数。在这里，我们只是将消息更新附加到先前的消息序列。
选择哪些值将从工作流返回，哪些值将由检查点程序保存为 previous，使用 entrypoint.final（可选）

from langgraph.checkpoint.memory import MemorySaver

checkpointer = MemorySaver()


@entrypoint(checkpointer=checkpointer)
def agent(messages, previous):
    if previous is not None:
        messages = add_messages(previous, messages)

    llm_response = call_model(messages).result()
    while True:
        if not llm_response.tool_calls:
            break

        # Execute tools
        tool_result_futures = [
            call_tool(tool_call) for tool_call in llm_response.tool_calls
        ]
        tool_results = [fut.result() for fut in tool_result_futures]

        # Append to message list
        messages = add_messages(messages, [llm_response, *tool_results])

        # Call model again
        llm_response = call_model(messages).result()

    # Generate final response
    messages = add_messages(messages, llm_response)
    return entrypoint.final(value=llm_response, save=messages)

API 参考: MemorySaver

我们现在需要在运行应用程序时传入配置。配置将指定对话线程的标识符。

提示

在我们的概念页面和操作指南中阅读更多关于线程级持久性的信息。

config = {"configurable": {"thread_id": "1"}}

我们以与之前相同的方式启动一个线程，这次传入配置

user_message = {"role": "user", "content": "What's the weather in san francisco?"}
print(user_message)

for step in agent.stream([user_message], config):
    for task_name, message in step.items():
        if task_name == "agent":
            continue  # Just print task updates
        print(f"\n{task_name}:")
        message.pretty_print()

{'role': 'user', 'content': "What's the weather in san francisco?"}

call_model:
==================================[1m Ai Message [0m==================================
Tool Calls:
  get_weather (call_lubbUSdDofmOhFunPEZLBz3g)
 Call ID: call_lubbUSdDofmOhFunPEZLBz3g
  Args:
    location: San Francisco

call_tool:
=================================[1m Tool Message [0m=================================

It's sunny!

call_model:
==================================[1m Ai Message [0m==================================

The weather in San Francisco is sunny!

当我们提出后续对话时，模型使用先前的上下文来推断我们正在询问天气

user_message = {"role": "user", "content": "How does it compare to Boston, MA?"}
print(user_message)

for step in agent.stream([user_message], config):
    for task_name, message in step.items():
        if task_name == "agent":
            continue  # Just print task updates
        print(f"\n{task_name}:")
        message.pretty_print()

{'role': 'user', 'content': 'How does it compare to Boston, MA?'}

call_model:
==================================[1m Ai Message [0m==================================
Tool Calls:
  get_weather (call_8sTKYAhSIHOdjLD5d6gaswuV)
 Call ID: call_8sTKYAhSIHOdjLD5d6gaswuV
  Args:
    location: Boston, MA

call_tool:
=================================[1m Tool Message [0m=================================

It's rainy!

call_model:
==================================[1m Ai Message [0m==================================

Compared to San Francisco, which is sunny, Boston, MA is experiencing rainy weather.

在 LangSmith 跟踪中，我们可以看到完整的对话上下文保留在每个模型调用中。