跳到内容

热路径快速入门指南

记忆可以通过两种方式创建

  1. 👉 在热路径中(本指南): 代理自觉地使用工具保存笔记。
  2. 在后台:记忆“潜意识地”自动从对话中提取(参见背景快速入门)。

Hot Path Quickstart Diagram

在本指南中,我们将创建一个LangGraph代理,它通过LangMem的manage_memory工具积极管理自己的长期记忆。

先决条件

首先,安装 LangMem

pip install -U langmem

使用您喜欢的LLM提供商的API密钥配置您的环境

export ANTHROPIC_API_KEY="sk-..."  # Or another supported LLM provider

代理

这是一个完整的示例,展示了如何创建一个在对话中持久化记忆的代理

from langgraph.checkpoint.memory import MemorySaver
from langgraph.prebuilt import create_react_agent
from langgraph.store.memory import InMemoryStore
from langgraph.utils.config import get_store 
from langmem import (
    # Lets agent create, update, and delete memories (1)
    create_manage_memory_tool,
)


def prompt(state):
    """Prepare the messages for the LLM."""
    # Get store from configured contextvar; (5)
    store = get_store() # Same as that provided to `create_react_agent`
    memories = store.search(
        # Search within the same namespace as the one
        # we've configured for the agent
        ("memories",),
        query=state["messages"][-1].content,
    )
    system_msg = f"""You are a helpful assistant.

## Memories
<memories>
{memories}
</memories>
"""
    return [{"role": "system", "content": system_msg}, *state["messages"]]


store = InMemoryStore(
    index={ # Store extracted memories (4)
        "dims": 1536,
        "embed": "openai:text-embedding-3-small",
    }
) 
checkpointer = MemorySaver() # Checkpoint graph state (2)

agent = create_react_agent( 
    "anthropic:claude-3-5-sonnet-latest",
    prompt=prompt,
    tools=[ # Add memory tools (3)
        # The agent can call "manage_memory" to
        # create, update, and delete memories by ID
        # Namespaces add scope to memories. To
        # scope memories per-user, do ("memories", "{user_id}"): (6)
        create_manage_memory_tool(namespace=("memories",)),
    ],
    # Our memories will be stored in this provided BaseStore instance
    store=store,
    # And the graph "state" will be checkpointed after each node
    # completes executing for tracking the chat history and durable execution
    checkpointer=checkpointer, 
)
  1. 工具create_manage_memory_toolcreate_search_memory_tool允许代理手动存储和检索其记忆中的信息。namespace参数对记忆进行范围限定,确保数据根据您的配置保持分离。

    在这里,我们将所有记忆保存到("memories",)命名空间,这意味着无论哪个用户与代理交互,所有记忆都将在同一个目录中共享。我们也可以配置它以其他方式组织记忆。例如:

    组织模式 命名空间示例 用例
    按用户 ("memories", "{user_id}") 每个用户记忆分离
    按助手 ("memories", "{assistant_id}") 一个助手可能拥有跨多个用户的记忆
    按用户和组织 ("memories", "{organization_id}", "{user_id}") 允许您在组织内搜索,同时按用户范围限定记忆
    进一步细分 ("memories", "{user_id}", "manual_memories") 组织不同类型的用户数据

    命名空间中的每个条目都像计算机上的一个目录。如果您提供一个带括号的命名空间变量(例如"{user_id}"),LangMem将在运行时将其替换为RunnableConfigconfigurable字段的值。

  2. MemorySaver检查点器维护每个“线程”内的对话历史。

    您可以将线程视为对话,类似于电子邮件线程。这种“短期”记忆跟踪代理/图表的状态,确保对话保持独立。对于生产部署,请使用像AsyncPostgresStore这样的持久存储。InMemoryStore适用于开发,但在重启之间不保留数据。

  3. 这些工具(以及任何其他有状态组件)也适用于StateGraph@entrypoint以及任何其他langgraph图中的任何节点。我们在这里使用create_react_agent,因为它易于使用且编写简洁。请查看其API参考以获取有关该代理的更多信息。

  4. InMemoryStore提供适合开发的临时存储。在生产环境中,请将其替换为由数据库支持的BaseStore实现以实现持久化。当部署在LangGraph平台时,会自动提供一个由Postgres支持的存储。此存储支持从任何命名空间保存和检索信息,允许您按用户、代理、组织或其他任意类别来范围限定记忆。

    请注意,Store与检查点器/“MemorySaver”不同。Store允许您根据首选层次结构存储任何信息。检查点器跟踪每个“线程”内的状态(包括对话历史),以实现持久执行。

    它们可以解决重叠的问题,但存储更灵活,更适合长期、跨线程的记忆。

  5. get_store()获取您已编译到图表中的任何存储。这比必须通过每个函数显式传递它更容易。

    LangGraph使用contextvars管理一些对象(例如configstore等);这允许您从上下文中获取存储或其他已配置的信息,而无需将它们添加到所有函数签名中。当使用tools或在此处的prompt函数中获取上下文信息时,这尤其方便。

  6. 要了解如何动态配置命名空间,请参阅如何动态配置命名空间

使用代理

您可以通过invoke图表来与其交互。如果代理决定保存记忆,它将调用manage_memory工具。

config = {"configurable": {"thread_id": "thread-a"}}

# Use the agent. The agent hasn't saved any memories,
# so it doesn't know about us
response = agent.invoke(
    {
        "messages": [
            {"role": "user", "content": "Know which display mode I prefer?"}
        ]
    },
    config=config,
)
print(response["messages"][-1].content)
# Output: "I don't seem to have any stored memories about your display mode preferences..."

agent.invoke(
    {
        "messages": [
            {"role": "user", "content": "dark. Remember that."}
        ]
    },
    # We will continue the conversation (thread-a) by using the config with
    # the same thread_id
    config=config,
)

# New thread = new conversation!
new_config = {"configurable": {"thread_id": "thread-b"}}
# The agent will only be able to recall
# whatever it explicitly saved using the manage_memories tool
response = agent.invoke(
    {"messages": [{"role": "user", "content": "Hey there. Do you remember me? What are my preferences?"}]},
    config=new_config,
)
print(response["messages"][-1].content)
# Output: "Based on my memory search, I can see that you've previously indicated a preference for dark display mode..."

此示例演示了跨对话的记忆持久性和用户之间的线程隔离。代理在一个线程中存储用户的暗模式偏好,并可以通过在另一个线程中搜索来访问它。

下一步

在此快速入门中,您配置了一个代理,使其使用工具“在热路径中”管理其记忆。请查看以下指南以了解其他功能

  • 反射快速入门 – 了解如何使用create_memory_store_manager“在后台”管理记忆。

评论