运行代理¶

代理支持同步和异步执行，可使用 .invoke() / await .ainvoke() 获取完整响应，或使用 .stream() / .astream() 获取增量流式输出。本节解释如何提供输入、解释输出、启用流式传输和控制执行限制。

基本用法¶

代理可以在两种主要模式下执行

同步使用 .invoke() 或 .stream()
异步使用 await .ainvoke() 或 async for 配合 .astream()

同步调用异步调用

from langgraph.prebuilt import create_react_agent

agent = create_react_agent(...)

response = agent.invoke({"messages": [{"role": "user", "content": "what is the weather in sf"}]})

from langgraph.prebuilt import create_react_agent

agent = create_react_agent(...)
response = await agent.ainvoke({"messages": [{"role": "user", "content": "what is the weather in sf"}]})

输入和输出¶

代理使用语言模型，该模型期望一个messages列表作为输入。因此，代理的输入和输出以messages键下的messages列表形式存储在代理的状态中。

输入格式¶

代理输入必须是一个包含messages键的字典。支持的格式有

格式	示例
字符串	`{"messages": "Hello"}` — 被解释为HumanMessage
消息字典	`{"messages": {"role": "user", "content": "Hello"}}`
消息列表	`{"messages": [{"role": "user", "content": "Hello"}]}`
带自定义状态	`{"messages": [{"role": "user", "content": "Hello"}], "user_name": "Alice"}` — 如果使用自定义`state_schema`

消息会自动转换为LangChain的内部消息格式。您可以在LangChain文档中阅读更多关于LangChain消息的信息。

使用自定义代理状态

您可以直接在输入字典中提供代理状态 schema 中定义的额外字段。这允许根据运行时数据或先前的工具输出进行动态行为。
详情请参阅上下文指南。

注意

messages的字符串输入被转换为HumanMessage。此行为与create_react_agent中的prompt参数不同，后者在作为字符串传递时被解释为SystemMessage。

输出格式¶

代理输出是一个字典，包含

messages：执行期间所有交换的消息列表（用户输入、助手回复、工具调用）。
可选地，如果配置了结构化输出，则包含structured_response。
如果使用自定义state_schema，输出中也可能包含与您定义的字段对应的额外键。这些键可以保存来自工具执行或提示逻辑的更新状态值。

有关如何使用自定义状态 schema 和访问上下文的更多详细信息，请参阅上下文指南。

流式输出¶

代理支持流式响应，以实现更具响应性的应用程序。这包括

每一步后的进度更新
生成的LLM令牌
执行期间的自定义工具消息

流式处理在同步和异步模式下均可用

同步流式传输异步流式传输

for chunk in agent.stream(
    {"messages": [{"role": "user", "content": "what is the weather in sf"}]},
    stream_mode="updates"
):
    print(chunk)

async for chunk in agent.astream(
    {"messages": [{"role": "user", "content": "what is the weather in sf"}]},
    stream_mode="updates"
):
    print(chunk)

提示

有关完整详细信息，请参阅流式传输指南。

最大迭代次数¶

为了控制代理执行并避免无限循环，请设置递归限制。这定义了代理在引发 GraphRecursionError 之前可以执行的最大步数。您可以在运行时或通过 .with_config() 定义代理时配置 recursion_limit。

运行时.with_config()

from langgraph.errors import GraphRecursionError
from langgraph.prebuilt import create_react_agent

max_iterations = 3
recursion_limit = 2 * max_iterations + 1
agent = create_react_agent(
    model="anthropic:claude-3-5-haiku-latest",
    tools=[get_weather]
)

try:
    response = agent.invoke(
        {"messages": [{"role": "user", "content": "what's the weather in sf"}]},
        {"recursion_limit": recursion_limit},
    )
except GraphRecursionError:
    print("Agent stopped due to max iterations.")

from langgraph.errors import GraphRecursionError
from langgraph.prebuilt import create_react_agent

max_iterations = 3
recursion_limit = 2 * max_iterations + 1
agent = create_react_agent(
    model="anthropic:claude-3-5-haiku-latest",
    tools=[get_weather]
)
agent_with_recursion_limit = agent.with_config(recursion_limit=recursion_limit)

try:
    response = agent_with_recursion_limit.invoke(
        {"messages": [{"role": "user", "content": "what's the weather in sf"}]},
    )
except GraphRecursionError:
    print("Agent stopped due to max iterations.")

额外资源¶

LangChain 中的异步编程