人机协作¶
要审查、编辑和批准智能体中的工具调用,您可以使用 LangGraph 内置的人机协作功能,特别是interrupt()
原语。
LangGraph 允许您无限期地暂停执行——持续几分钟、几小时甚至几天——直到接收到人工输入。
这是可能的,因为智能体状态会被检查点保存到数据库中,这使得系统能够持久化执行上下文,并在之后恢复工作流,从中断的地方继续执行。
审查工具调用¶
为工具添加人工审批步骤
- 在工具中使用
interrupt()
来暂停执行。 - 使用
Command({ resume: ... })
来基于人工输入继续执行。
import { MemorySaver } from "@langchain/langgraph-checkpoint";
import { interrupt } from "@langchain/langgraph";
import { createReactAgent } from "@langchain/langgraph/prebuilt";
import { initChatModel } from "langchain/chat_models/universal";
import { tool } from "@langchain/core/tools";
import { z } from "zod";
// An example of a sensitive tool that requires human review / approval
const bookHotel = tool(
async (input: { hotelName: string; }) => {
let hotelName = input.hotelName;
const response = interrupt( // (1)!
`Trying to call \`book_hotel\` with args {'hotel_name': ${hotelName}}. ` +
`Please approve or suggest edits.`
)
if (response.type === "accept") {
// proceed to execute the tool logic
} else if (response.type === "edit") {
hotelName = response.args["hotel_name"]
} else {
throw new Error(`Unknown response type: ${response.type}`)
}
return `Successfully booked a stay at ${hotelName}.`;
},
{
name: "bookHotel",
schema: z.object({
hotelName: z.string().describe("Hotel to book"),
}),
description: "Book a hotel.",
}
);
const checkpointer = new MemorySaver(); // (2)!
const llm = await initChatModel("anthropic:claude-3-7-sonnet-latest");
const agent = createReactAgent({
llm,
tools: [bookHotel],
checkpointer // (3)!
});
interrupt
函数在特定节点暂停智能体图。在这种情况下,我们在工具函数的开头调用interrupt()
,这将在执行工具的节点暂停图。interrupt()
内部的信息(例如,工具调用)可以呈现给人工,并且图可以根据用户输入(工具调用审批、编辑或反馈)恢复。InMemorySaver
用于在工具调用循环的每个步骤中存储智能体状态。这使得短期记忆和人机协作能力成为可能。在此示例中,我们使用InMemorySaver
将智能体状态存储在内存中。在生产应用中,智能体状态将存储在数据库中。- 使用
checkpointer
初始化智能体。
使用 stream()
方法运行智能体,传入 config
对象以指定线程 ID。这使得智能体能够在将来的调用中恢复同一对话。
const config = {
configurable: {
"thread_id": "1"
}
}
for await (const chunk of await agent.stream(
{ messages: "book a stay at McKittrick hotel" },
config
)) {
console.log(chunk);
console.log("\n");
};
您应该会看到智能体运行直到到达
interrupt()
调用,此时它会暂停并等待人工输入。
使用 Command({ resume: ... })
来基于人工输入恢复智能体。
import { Command } from "@langchain/langgraph";
for await (const chunk of await agent.stream(
new Command({ resume: { type: "accept" } }), // (1)!
// new Command({ resume: { type: "edit", args: { "hotel_name": "McKittrick Hotel" } } }),
config
)) {
console.log(chunk);
console.log("\n");
};
interrupt
函数与Command
对象结合使用,以便使用人工提供的值恢复图。