如何添加线程级持久化（函数式 API）¶

先决条件

本指南假定您熟悉以下内容：

许多 AI 应用程序需要记忆来在同一线程（例如，对话的多个轮次）的多次交互中共享上下文。在 LangGraph 函数式 API 中，这种记忆可以通过线程级持久化添加到任何entrypoint() 工作流中。

创建 LangGraph 工作流时，您可以通过使用检查点来设置其结果的持久化。

创建检查点实例

import { MemorySaver } from "@langchain/langgraph";

const checkpointer = new MemorySaver();

将 checkpointer 实例传递给 entrypoint() 包装函数

import { entrypoint } from "@langchain/langgraph";
const workflow = entrypoint({
  name: "workflow",
  checkpointer,
}, async (inputs) => {
  ...
});

从工作流中先前执行中检索 previous 状态

import { entrypoint, getPreviousState } from "@langchain/langgraph";

const workflow = entrypoint({
  name: "workflow",
  checkpointer,
}, async (inputs) => {
  const previous = getPreviousState();
  const result = doSomething(previous, inputs);
  ...
});

可选地选择哪些值将从工作流中返回，哪些将由检查点作为 previous 保存

import { entrypoint, getPreviousState } from "@langchain/langgraph";

const workflow = entrypoint({
  name: "workflow",
  checkpointer,
}, async (inputs) => {
  const previous = getPreviousState();
  const result = doSomething(previous, inputs);
  ...
  return entrypoint.final({
    value: result,
    save: combineState(inputs, result),
  });
});

本指南展示了如何向您的工作流添加线程级持久化。

注意

如果您需要跨多个对话或用户共享的记忆（跨线程持久化），请查看此操作指南。

注意

如果您需要向 StateGraph 添加线程级持久化，请查看此操作指南。

设置¶

注意

本指南需要 @langchain/langgraph>=0.2.42。

首先，安装此示例所需的依赖项

npm install @langchain/langgraph @langchain/anthropic @langchain/core zod

接下来，我们需要为 Anthropic（我们将使用的 LLM）设置 API 密钥

process.env.ANTHROPIC_API_KEY = "YOUR_API_KEY";

为 LangGraph 开发设置 LangSmith

注册 LangSmith 以快速发现问题并提高 LangGraph 项目的性能。LangSmith 允许您使用跟踪数据来调试、测试和监控您使用 LangGraph 构建的 LLM 应用程序——在此处了解更多入门信息

示例：带短期记忆的简单聊天机器人¶

我们将使用一个工作流，其中包含一个调用聊天模型的单一任务。

我们首先定义将使用的模型

import { ChatAnthropic } from "@langchain/anthropic";

const model = new ChatAnthropic({
  model: "claude-3-5-sonnet-latest",
});

现在我们可以定义任务和工作流。为了添加持久化，我们需要将检查点传递给entrypoint() 包装函数。

import type { BaseMessage, BaseMessageLike } from "@langchain/core/messages";
import {
  addMessages,
  entrypoint,
  task,
  getPreviousState,
  MemorySaver,
} from "@langchain/langgraph";

const callModel = task("callModel", async (messages: BaseMessageLike[]) => {
  const response = model.invoke(messages);
  return response;
});

const checkpointer = new MemorySaver();

const workflow = entrypoint({
  name: "workflow",
  checkpointer,
}, async (inputs: BaseMessageLike[]) => {
  const previous = getPreviousState<BaseMessage>() ?? [];
  const messages = addMessages(previous, inputs);
  const response = await callModel(messages);
  return entrypoint.final({
    value: response,
    save: addMessages(messages, response),
  });
});

如果我们尝试使用此工作流，对话的上下文将在交互中持久化。

注意

如果您正在使用 LangGraph Cloud 或 LangGraph Studio，则无需将检查点传递给 entrypoint 包装器，因为它会自动完成。

这是实际操作中如何工作的

const config = {
  configurable: { thread_id: "1" },
  streamMode: "values" as const,
};
const inputMessage = { role: "user", content: "hi! I'm bob" };

const stream = await workflow.stream(
  [inputMessage],
  config,
);

for await (const chunk of stream) {
  console.log("=".repeat(30), `${chunk.getType()} message`, "=".repeat(30));
  console.log(chunk.content);
}

============================== ai message ==============================
Hi Bob! I'm Claude. Nice to meet you! How can I help you today?

您总是可以恢复以前的线程

const followupStream = await workflow.stream(
  [{ role: "user", content: "what's my name?" }], 
  config,
);

for await (const chunk of followupStream) {
  console.log("=".repeat(30), `${chunk.getType()} message`, "=".repeat(30));
  console.log(chunk.content);
}

============================== ai message ==============================
Your name is Bob - you just told me that in your first message.

如果我们想开始新的对话，我们可以传入不同的 thread_id。唰！所有记忆都消失了！

const newStream = await workflow.stream(
  [{ role: "user", content: "what's my name?" }],
  {
    configurable: {
      thread_id: "2",
    },
    streamMode: "values",
  },
);

for await (const chunk of newStream) {
  console.log("=".repeat(30), `${chunk.getType()} message`, "=".repeat(30));
  console.log(chunk.content);
}

============================== ai message ==============================
I don't know your name as we just started chatting. Would you like to introduce yourself?

流式传输令牌

如果您想从聊天机器人中流式传输 LLM 令牌，可以使用 streamMode: "messages"。请查看此操作指南以了解更多信息。