跳到内容

LangGraph CLI

LangGraph 命令行界面包含用于在本地 Docker 中构建和运行 LangGraph 平台 API 服务器的命令。出于开发和测试目的,您可以使用 CLI 部署本地 API 服务器。

安装

  1. 确保已安装 Docker(例如 docker --version)。
  2. 安装 CLI 包

    pip install langgraph-cli
    
    npx @langchain/langgraph-cli
    
    # Install globally, will be available as `langgraphjs`
    npm install -g @langchain/langgraph-cli
    
  3. 运行命令 langgraph --helpnpx @langchain/langgraph-cli --help 以确认 CLI 正常工作。

配置文件

LangGraph CLI 需要一个遵循此 schema 的 JSON 配置文件。它包含以下属性

注意

LangGraph CLI 默认使用当前目录中的配置文件 langgraph.json

描述
dependencies 必需。LangGraph 平台 API 服务器的依赖项数组。依赖项可以是以下之一
  • 单个句点 ("."),它将查找本地 Python 包。
  • pyproject.tomlsetup.pyrequirements.txt 文件所在的目录路径。例如,如果 requirements.txt 位于项目目录的根部,请指定 "./"。如果它位于名为 local_package 的子目录中,请指定 "./local_package"。请勿指定字符串 "requirements.txt" 本身。
  • 一个 Python 包名称。
graphs 必需。从图 ID 到定义已编译图或生成图的函数路径的映射。示例
  • ./your_package/your_file.py:variable,其中 variablelanggraph.graph.state.CompiledStateGraph 的实例
  • ./your_package/your_file.py:make_graph,其中 make_graph 是一个函数,它接受一个配置字典 (langchain_core.runnables.RunnableConfig) 并返回 langgraph.graph.state.StateGraphlanggraph.graph.state.CompiledStateGraph 的实例。有关更多详细信息,请参阅 如何在运行时重建图
auth (v0.0.11 中添加) 包含您的身份验证处理程序路径的身份验证配置。示例:./your_package/auth.py:auth,其中 authlanggraph_sdk.Auth 的实例。有关详细信息,请参阅身份验证指南
base_image 可选。用于 LangGraph API 服务器的基础镜像。默认为 langchain/langgraph-apilangchain/langgraphjs-api。使用此项将您的构建锁定到特定版本的 langgraph API,例如 "langchain/langgraph-server:0.2"。有关更多详细信息,请参阅 https://hub.docker.com/r/langchain/langgraph-server/tags。(在 langgraph-cli==0.2.8 中添加)
image_distro 可选。基础镜像的 Linux 发行版。必须是 "debian""wolfi"。如果省略,则默认为 "debian"。在 langgraph-cli>=0.2.11 中可用。
env .env 文件的路径或从环境变量到其值的映射。
store 用于向 BaseStore 添加语义搜索和/或存活时间 (TTL) 的配置。包含以下字段
  • index (可选):用于语义搜索索引的配置,包含 embeddims 和可选的 fields 字段。
  • ttl (可选):用于项目过期的配置。一个包含可选字段的对象:refresh_on_read(布尔值,默认为 true),default_ttl(浮点数,生命周期以分钟为单位,默认为永不过期),和 sweep_interval_minutes(整数,检查过期项目的频率,默认为不进行清理)。
ui 可选。代理发出的 UI 组件的命名定义,每个都指向一个 JS/TS 文件。(在 langgraph-cli==0.1.84 中添加)
python_version 3.113.123.13。默认为 3.11
node_version 指定 node_version: 20 以使用 LangGraph.js。
pip_config_file pip 配置文件路径。
pip_installer (v0.3 中添加) 可选。Python 包安装程序选择器。它可以设置为 "auto""pip""uv"。从版本 0.3 开始,默认策略是运行 uv pip,这通常会提供更快的构建,同时仍可作为直接替代。在 uv 无法处理您的依赖图或 pyproject.toml 结构的不常见情况下,请在此处指定 "pip" 以恢复到早期行为。
keep_pkg_tools (v0.3.4 中添加) 可选。控制是否在最终镜像中保留 Python 打包工具 (pipsetuptoolswheel)。接受的值
  • true:保留所有三个工具(跳过卸载)。
  • false / 省略:卸载所有三个工具(默认行为)。
  • list[str]:要保留的工具名称。每个值必须是 "pip"、"setuptools" 或 "wheel" 之一。
默认情况下,所有这三个工具都会被卸载。
dockerfile_lines 在从父镜像导入后添加到 Dockerfile 的额外行数组。
checkpointer 检查点器的配置。包含一个 ttl 字段,该字段是一个具有以下键的对象
  • strategy:如何处理过期检查点(例如,"delete")。
  • sweep_interval_minutes:检查过期检查点的频率(整数)。
  • default_ttl:检查点的默认存活时间,以分钟为单位(整数)。定义在应用指定策略之前检查点保留多长时间。
http 包含以下字段的 HTTP 服务器配置
  • app:自定义 Starlette/FastAPI 应用程序的路径(例如,"./src/agent/webapp.py:app")。请参阅自定义路由指南
  • cors:CORS 配置,包含 allow_originsallow_methodsallow_headers 等字段。
  • configurable_headers:定义要排除或包含为运行的可配置值的请求头。
  • disable_assistants:禁用 /assistants 路由
  • disable_mcp:禁用 /mcp 路由
  • disable_meta:禁用 /ok/info/metrics/docs 路由
  • disable_runs:禁用 /runs 路由
  • disable_store:禁用 /store 路由
  • disable_threads:禁用 /threads 路由
  • disable_ui:禁用 /ui 路由
  • disable_webhooks:在所有路由中禁用运行完成时的 webhook 调用
  • mount_prefix:挂载路由的前缀(例如,"/my-deployment/api")
描述
graphs 必需。从图 ID 到定义已编译图或生成图的函数路径的映射。示例
  • ./src/graph.ts:variable,其中 variableCompiledStateGraph 的实例
  • ./src/graph.ts:makeGraph,其中 makeGraph 是一个函数,它接受一个配置字典 (LangGraphRunnableConfig) 并返回 StateGraphCompiledStateGraph 的实例。有关更多详细信息,请参阅 如何在运行时重建图
env .env 文件的路径或从环境变量到其值的映射。
store 用于向 BaseStore 添加语义搜索和/或存活时间 (TTL) 的配置。包含以下字段
  • index (可选):用于语义搜索索引的配置,包含 embeddims 和可选的 fields 字段。
  • ttl (可选):用于项目过期的配置。一个包含可选字段的对象:refresh_on_read(布尔值,默认为 true),default_ttl(浮点数,生命周期以分钟为单位,默认为永不过期),和 sweep_interval_minutes(整数,检查过期项目的频率,默认为不进行清理)。
node_version 指定 node_version: 20 以使用 LangGraph.js。
dockerfile_lines 在从父镜像导入后添加到 Dockerfile 的额外行数组。
checkpointer 检查点器的配置。包含一个 ttl 字段,该字段是一个具有以下键的对象
  • strategy:如何处理过期检查点(例如,"delete")。
  • sweep_interval_minutes:检查过期检查点的频率(整数)。
  • default_ttl:检查点的默认存活时间,以分钟为单位(整数)。定义在应用指定策略之前检查点保留多长时间。

示例

基本配置

{
  "dependencies": ["."],
  "graphs": {
    "chat": "./chat/graph.py:graph"
  }
}

使用 Wolfi 基础镜像

您可以使用 image_distro 字段指定基础镜像的 Linux 发行版。有效选项为 debianwolfi。Wolfi 是推荐选项,因为它提供更小、更安全的镜像。此功能在 langgraph-cli>=0.2.11 中可用。

{
  "dependencies": ["."],
  "graphs": {
    "chat": "./chat/graph.py:graph"
  },
  "image_distro": "wolfi"
}

向存储添加语义搜索

所有部署都附带一个由数据库支持的 BaseStore。向您的 langgraph.json 中添加 "index" 配置将启用部署的 BaseStore 中的语义搜索

index.fields 配置确定要嵌入的文档部分

  • 如果省略或设置为 ["$"],则整个文档将被嵌入
  • 要嵌入特定字段,请使用 JSON 路径表示法:["metadata.title", "content.text"]
  • 缺少指定字段的文档仍将存储,但这些字段不会有嵌入
  • 您仍然可以在 put 操作时使用 index 参数覆盖特定项目的嵌入字段
{
  "dependencies": ["."],
  "graphs": {
    "memory_agent": "./agent/graph.py:graph"
  },
  "store": {
    "index": {
      "embed": "openai:text-embedding-3-small",
      "dims": 1536,
      "fields": ["$"]
    }
  }
}

常见模型维度

  • openai:text-embedding-3-large: 3072
  • openai:text-embedding-3-small: 1536
  • openai:text-embedding-ada-002: 1536
  • cohere:embed-english-v3.0: 1024
  • cohere:embed-english-light-v3.0: 384
  • cohere:embed-multilingual-v3.0: 1024
  • cohere:embed-multilingual-light-v3.0: 384

使用自定义嵌入函数进行语义搜索

如果您想使用自定义嵌入函数进行语义搜索,可以传递自定义嵌入函数的路径

{
  "dependencies": ["."],
  "graphs": {
    "memory_agent": "./agent/graph.py:graph"
  },
  "store": {
    "index": {
      "embed": "./embeddings.py:embed_texts",
      "dims": 768,
      "fields": ["text", "summary"]
    }
  }
}

存储配置中的 embed 字段可以引用一个自定义函数,该函数接受字符串列表并返回嵌入列表。示例实现

# embeddings.py
def embed_texts(texts: list[str]) -> list[list[float]]:
    """Custom embedding function for semantic search."""
    # Implementation using your preferred embedding model
    return [[0.1, 0.2, ...] for _ in texts]  # dims-dimensional vectors

添加自定义身份验证

{
  "dependencies": ["."],
  "graphs": {
    "chat": "./chat/graph.py:graph"
  },
  "auth": {
    "path": "./auth.py:auth",
    "openapi": {
      "securitySchemes": {
        "apiKeyAuth": {
          "type": "apiKey",
          "in": "header",
          "name": "X-API-Key"
        }
      },
      "security": [{ "apiKeyAuth": [] }]
    },
    "disable_studio_auth": false
  }
}

有关详细信息,请参阅身份验证概念指南,以及设置自定义身份验证指南以获取实际操作流程。

配置存储项存活时间 (TTL)

您可以使用 store.ttl 键配置 BaseStore 中项目/内存的默认数据过期时间。这决定了项目在最后一次访问后保留多长时间(读取操作可能会根据 refresh_on_read 刷新计时器)。请注意,这些默认值可以通过修改 getsearch 等中的相应参数来按每次调用进行覆盖。

ttl 配置是一个包含可选字段的对象

  • refresh_on_read:如果为 true(默认值),通过 getsearch 访问项目会重置其过期计时器。设置为 false 则仅在写入 (put) 时刷新 TTL。
  • default_ttl:项目的默认生命周期,以分钟为单位。如果未设置,项目默认永不过期。
  • sweep_interval_minutes:系统应多久(以分钟为单位)运行一次后台进程来删除过期项目。如果未设置,则不会自动进行清理。

以下是启用 7 天 TTL(10080 分钟)、在读取时刷新并每小时清理一次的示例

{
  "dependencies": ["."],
  "graphs": {
    "memory_agent": "./agent/graph.py:graph"
  },
  "store": {
    "ttl": {
      "refresh_on_read": true,
      "sweep_interval_minutes": 60,
      "default_ttl": 10080 
    }
  }
}

配置检查点存活时间 (TTL)

您可以使用 checkpointer 键配置检查点的存活时间 (TTL)。这决定了检查点数据在根据指定策略(例如,删除)自动处理之前保留多长时间。ttl 配置是一个包含以下内容的对象

  • strategy:对过期检查点采取的操作(目前 "delete" 是唯一接受的选项)。
  • sweep_interval_minutes:系统检查过期检查点的频率(以分钟为单位)。
  • default_ttl:检查点的默认生命周期,以分钟为单位。

以下是设置 30 天默认 TTL(43200 分钟)的示例

{
  "dependencies": ["."],
  "graphs": {
    "chat": "./chat/graph.py:graph"
  },
  "checkpointer": {
    "ttl": {
      "strategy": "delete",
      "sweep_interval_minutes": 10,
      "default_ttl": 43200
    }
  }
}

在此示例中,超过 30 天的检查点将被删除,并且每 10 分钟运行一次检查。

基本配置

{
  "graphs": {
    "chat": "./src/graph.ts:graph"
  }
}

命令

用量

LangGraph CLI 的基本命令是 langgraph

langgraph [OPTIONS] COMMAND [ARGS]

LangGraph.js CLI 的基本命令是 langgraphjs

npx @langchain/langgraph-cli [OPTIONS] COMMAND [ARGS]

我们建议使用 npx 始终使用最新版本的 CLI。

dev

在开发模式下运行 LangGraph API 服务器,支持热重载和调试功能。此轻量级服务器无需安装 Docker,适用于开发和测试。状态持久化到本地目录。

注意

目前,CLI 仅支持 Python >= 3.11。

安装

此命令需要安装 "inmem" 额外组件

pip install -U "langgraph-cli[inmem]"

用量

langgraph dev [OPTIONS]

选项

选项 默认值 描述
-c, --config 文件 langgraph.json 声明依赖项、图和环境变量的配置文件路径
--host 文本 127.0.0.1 服务器绑定的主机
--port 整数 2024 服务器绑定的端口
--no-reload 禁用自动重载
--n-jobs-per-worker 整数 每个工作进程的任务数量。默认为 10
--debug-port 整数 调试器监听的端口
--wait-for-client 等待调试器客户端连接到调试端口后再启动服务器
--no-browser 启动服务器时跳过自动打开浏览器
--studio-url 文本 要连接的 LangGraph Studio 实例的 URL。默认为 https://smith.langchain.com
--allow-blocking 不为代码中的同步 I/O 阻塞操作引发错误(在 0.2.6 中添加)
--tunnel 通过公共隧道 (Cloudflare) 暴露本地服务器,以供远程前端访问。这避免了 Safari 等浏览器或网络阻止 localhost 连接的问题
--help 显示命令文档

在开发模式下运行 LangGraph API 服务器,支持热重载功能。此轻量级服务器无需安装 Docker,适用于开发和测试。状态持久化到本地目录。

用量

npx @langchain/langgraph-cli dev [OPTIONS]

选项

选项 默认值 描述
-c, --config 文件 langgraph.json 声明依赖项、图和环境变量的配置文件路径
--host 文本 127.0.0.1 服务器绑定的主机
--port 整数 2024 服务器绑定的端口
--no-reload 禁用自动重载
--n-jobs-per-worker 整数 每个工作进程的任务数量。默认为 10
--debug-port 整数 调试器监听的端口
--wait-for-client 等待调试器客户端连接到调试端口后再启动服务器
--no-browser 启动服务器时跳过自动打开浏览器
--studio-url 文本 要连接的 LangGraph Studio 实例的 URL。默认为 https://smith.langchain.com
--allow-blocking 不为代码中的同步 I/O 阻塞操作引发错误。
--tunnel 通过公共隧道 (Cloudflare) 暴露本地服务器,以供远程前端访问。这避免了浏览器或网络阻止 localhost 连接的问题。
--help 显示命令文档

build

构建 LangGraph 平台 API 服务器 Docker 镜像。

用量

langgraph build [OPTIONS]

选项

选项 默认值 描述
--platform 文本 构建 Docker 镜像的目标平台。示例:langgraph build --platform linux/amd64,linux/arm64
-t, --tag 文本 必需。Docker 镜像的标签。示例:langgraph build -t my-image
--pull / --no-pull --pull 使用最新的远程 Docker 镜像构建。使用 --no-pull 运行使用本地构建的镜像的 LangGraph 平台 API 服务器。
-c, --config 文件 langgraph.json 声明依赖项、图和环境变量的配置文件路径。
--help 显示命令文档。

构建 LangGraph 平台 API 服务器 Docker 镜像。

用量

npx @langchain/langgraph-cli build [OPTIONS]

选项

选项 默认值 描述
--platform 文本 构建 Docker 镜像的目标平台。示例:langgraph build --platform linux/amd64,linux/arm64
-t, --tag 文本 必需。Docker 镜像的标签。示例:langgraph build -t my-image
--no-pull 使用本地构建的镜像。默认为 false 以使用最新的远程 Docker 镜像构建。
-c, --config 文件 langgraph.json 声明依赖项、图和环境变量的配置文件路径。
--help 显示命令文档。

up

启动 LangGraph API 服务器。对于本地测试,需要一个具有 LangGraph 平台访问权限的 LangSmith API 密钥。生产使用需要许可证密钥。

用量

langgraph up [OPTIONS]

选项

选项 默认值 描述
--wait 等待服务启动后再返回。隐含 --detach

| --base-image TEXT | langchain/langgraph-api | 用于 LangGraph API 服务器的基础镜像。使用版本标签锁定到特定版本。 | | --image TEXT | | 用于 langgraph-api 服务的 Docker 镜像。如果指定,则跳过构建并直接使用此镜像。 | | --postgres-uri TEXT | 本地数据库 | 用于数据库的 Postgres URI。 | | --watch | | 文件更改时重启 | | --debugger-base-url TEXT | http://127.0.0.1:[PORT] | 调试器用于访问 LangGraph API 的 URL。 | | --debugger-port INTEGER | | 在本地拉取调试器镜像并在指定端口上提供 UI | | --verbose | | 显示更多服务器日志输出。 | | -c, --config FILE | langgraph.json | 声明依赖项、图和环境变量的配置文件路径。 | | -d, --docker-compose FILE | | 包含要启动的其他服务的 docker-compose.yml 文件路径。 | | -p, --port INTEGER | 8123 | 要暴露的端口。示例:langgraph up --port 8000 | | --pull / --no-pull | pull | 拉取最新镜像。使用 --no-pull 运行使用本地构建的镜像的服务器。示例:langgraph up --no-pull | | --recreate / --no-recreate | no-recreate | 即使配置和镜像未更改也重新创建容器 | | --help | | 显示命令文档。 |

启动 LangGraph API 服务器。对于本地测试,需要一个具有 LangGraph 平台访问权限的 LangSmith API 密钥。生产使用需要许可证密钥。

用量

npx @langchain/langgraph-cli up [OPTIONS]

选项

选项 默认值 描述
--wait 等待服务启动后再返回。隐含 --detach

| --base-image TEXT | langchain/langgraph-api | 用于 LangGraph API 服务器的基础镜像。使用版本标签锁定到特定版本。 | | --image TEXT | | 用于 langgraph-api 服务的 Docker 镜像。如果指定,则跳过构建并直接使用此镜像。 | | --postgres-uri TEXT | 本地数据库 | 用于数据库的 Postgres URI。 | | --watch | | 文件更改时重启 | | --debugger-base-url TEXT | http://127.0.0.1:[PORT] | 调试器用于访问 LangGraph API 的 URL。 | | --debugger-port INTEGER | | 在本地拉取调试器镜像并在指定端口上提供 UI | | -c, --config FILE | langgraph.json | 声明依赖项、图和环境变量的配置文件路径。 | | -d, --docker-compose FILE | | 包含要启动的其他服务的 docker-compose.yml 文件路径。 | | -p, --port INTEGER | 8123 | 要暴露的端口。示例:langgraph up --port 8000 | | --no-pull | | 使用本地构建的镜像。默认为 false 以使用最新的远程 Docker 镜像构建。 | | --recreate | | 即使配置和镜像未更改也重新创建容器 | | --help | | 显示命令文档。 |

dockerfile

生成用于构建 LangGraph 平台 API 服务器 Docker 镜像的 Dockerfile。

用量

langgraph dockerfile [OPTIONS] SAVE_PATH

选项

选项 默认值 描述
-c, --config 文件 langgraph.json 声明依赖项、图和环境变量的配置文件路径。
--help 显示此消息并退出。

示例

langgraph dockerfile -c langgraph.json Dockerfile

这将生成一个类似于以下的 Dockerfile

FROM langchain/langgraph-api:3.11

ADD ./pipconf.txt /pipconfig.txt

RUN PIP_CONFIG_FILE=/pipconfig.txt PYTHONDONTWRITEBYTECODE=1 pip install --no-cache-dir -c /api/constraints.txt langchain_community langchain_anthropic langchain_openai wikipedia scikit-learn

ADD ./graphs /deps/__outer_graphs/src
RUN set -ex && \
    for line in '[project]' \
                'name = "graphs"' \
                'version = "0.1"' \
                '[tool.setuptools.package-data]' \
                '"*" = ["**/*"]'; do \
        echo "$line" >> /deps/__outer_graphs/pyproject.toml; \
    done

RUN PIP_CONFIG_FILE=/pipconfig.txt PYTHONDONTWRITEBYTECODE=1 pip install --no-cache-dir -c /api/constraints.txt -e /deps/*

ENV LANGSERVE_GRAPHS='{"agent": "/deps/__outer_graphs/src/agent.py:graph", "storm": "/deps/__outer_graphs/src/storm.py:graph"}'
更新您的 langgraph.json 文件

langgraph dockerfile 命令将您的 langgraph.json 文件中的所有配置转换为 Dockerfile 命令。使用此命令时,每当您更新 langgraph.json 文件时,都必须重新运行它。否则,在构建或运行 dockerfile 时,您的更改将不会反映出来。

生成用于构建 LangGraph 平台 API 服务器 Docker 镜像的 Dockerfile。

用量

npx @langchain/langgraph-cli dockerfile [OPTIONS] SAVE_PATH

选项

选项 默认值 描述
-c, --config 文件 langgraph.json 声明依赖项、图和环境变量的配置文件路径。
--help 显示此消息并退出。

示例

npx @langchain/langgraph-cli dockerfile -c langgraph.json Dockerfile

这将生成一个类似于以下的 Dockerfile

FROM langchain/langgraphjs-api:20

ADD . /deps/agent

RUN cd /deps/agent && yarn install

ENV LANGSERVE_GRAPHS='{"agent":"./src/react_agent/graph.ts:graph"}'

WORKDIR /deps/agent

RUN (test ! -f /api/langgraph_api/js/build.mts && echo "Prebuild script not found, skipping") || tsx /api/langgraph_api/js/build.mts
更新您的 langgraph.json 文件

npx @langchain/langgraph-cli dockerfile 命令将您的 langgraph.json 文件中的所有配置转换为 Dockerfile 命令。使用此命令时,每当您更新 langgraph.json 文件时,都必须重新运行它。否则,在构建或运行 dockerfile 时,您的更改将不会反映出来。