LangGraph CLI¶
LangGraph 命令行界面包括用于在 Docker 中本地构建和运行 LangGraph 平台 API 服务器的命令。对于开发和测试,您可以使用 CLI 部署本地 API 服务器。
安装¶
- 确保 Docker 已安装(例如
docker --version
)。 -
安装 CLI 包
-
运行命令
langgraph --help
或npx @langchain/langgraph-cli --help
以确认 CLI 正常工作。
配置文件¶
LangGraph CLI 需要一个遵循此schema的 JSON 配置文件。它包含以下属性
注意
LangGraph CLI 默认使用当前目录中的 langgraph.json 配置文件。
键 | 描述 |
---|---|
依赖项 |
必需。LangGraph 平台 API 服务器的依赖项数组。依赖项可以是以下之一:
|
图 |
必需。从图 ID 到定义编译图或生成图的函数的路径的映射。示例:
|
auth |
(v0.0.11 中添加) 包含您的身份验证处理程序路径的身份验证配置。示例:./your_package/auth.py:auth ,其中 auth 是 langgraph_sdk.Auth 的实例。有关详细信息,请参阅身份验证指南。 |
base_image |
可选。用于 LangGraph API 服务器的基础镜像。默认为 langchain/langgraph-api 或 langchain/langgraphjs-api 。使用此项可将您的构建锁定到特定版本的 LangGraph API,例如 "langchain/langgraph-server:0.2" 。有关详细信息,请参阅https://hub.docker.com/r/langchain/langgraph-server/tags。(在 langgraph-cli==0.2.8 中添加) |
image_distro |
可选。基础镜像的 Linux 发行版。必须是 "debian" 或 "wolfi" 。如果省略,默认为 "debian" 。在 langgraph-cli>=0.2.11 中可用。 |
env |
.env 文件路径或从环境变量到其值的映射。 |
store |
用于向 BaseStore 添加语义搜索和/或生存时间 (TTL) 的配置。包含以下字段:
|
ui |
可选。代理发出的 UI 组件的命名定义,每个都指向一个 JS/TS 文件。(在 langgraph-cli==0.1.84 中添加) |
python_version |
3.11 、3.12 或 3.13 。默认为 3.11 。 |
node_version |
指定 node_version: 20 以使用 LangGraph.js。 |
pip_config_file |
pip 配置文件的路径。 |
dockerfile_lines |
导入父镜像后要添加到 Dockerfile 的额外行数组。 |
checkpointer |
检查点的配置。包含一个 ttl 字段,该字段是一个包含以下键的对象:
|
http |
HTTP 服务器配置,包含以下字段:
|
键 | 描述 |
---|---|
图 |
必需。从图 ID 到定义编译图或生成图的函数的路径的映射。示例:
|
env |
.env 文件路径或从环境变量到其值的映射。 |
store |
用于向 BaseStore 添加语义搜索和/或生存时间 (TTL) 的配置。包含以下字段:
|
node_version |
指定 node_version: 20 以使用 LangGraph.js。 |
dockerfile_lines |
导入父镜像后要添加到 Dockerfile 的额外行数组。 |
checkpointer |
检查点的配置。包含一个 ttl 字段,该字段是一个包含以下键的对象:
|
示例¶
基本配置¶
使用 Wolfi 基础镜像¶
您可以使用 image_distro
字段指定基础镜像的 Linux 发行版。有效选项是 debian
或 wolfi
。Wolfi 是推荐选项,因为它提供更小、更安全的镜像。此功能在 langgraph-cli>=0.2.11
中可用。
向存储中添加语义搜索¶
所有部署都附带一个由数据库支持的 BaseStore。在 langgraph.json
中添加“index”配置将启用部署的 BaseStore 中的语义搜索。
index.fields
配置决定要嵌入文档的哪些部分
- 如果省略或设置为
["$"]
,则整个文档将被嵌入 - 要嵌入特定字段,请使用 JSON 路径表示法:
["metadata.title", "content.text"]
- 缺少指定字段的文档仍将存储,但这些字段不会有嵌入
- 您仍然可以在
put
时使用index
参数覆盖特定项目要嵌入的字段
{
"dependencies": ["."],
"graphs": {
"memory_agent": "./agent/graph.py:graph"
},
"store": {
"index": {
"embed": "openai:text-embedding-3-small",
"dims": 1536,
"fields": ["$"]
}
}
}
常用模型维度
openai:text-embedding-3-large
: 3072openai:text-embedding-3-small
: 1536openai:text-embedding-ada-002
: 1536cohere:embed-english-v3.0
: 1024cohere:embed-english-light-v3.0
: 384cohere:embed-multilingual-v3.0
: 1024cohere:embed-multilingual-light-v3.0
: 384
使用自定义嵌入函数的语义搜索¶
如果您想使用自定义嵌入函数进行语义搜索,可以传递自定义嵌入函数的路径
{
"dependencies": ["."],
"graphs": {
"memory_agent": "./agent/graph.py:graph"
},
"store": {
"index": {
"embed": "./embeddings.py:embed_texts",
"dims": 768,
"fields": ["text", "summary"]
}
}
}
存储配置中的 embed
字段可以引用一个自定义函数,该函数接受字符串列表并返回嵌入列表。示例实现:
# embeddings.py
def embed_texts(texts: list[str]) -> list[list[float]]:
"""Custom embedding function for semantic search."""
# Implementation using your preferred embedding model
return [[0.1, 0.2, ...] for _ in texts] # dims-dimensional vectors
添加自定义身份验证¶
{
"dependencies": ["."],
"graphs": {
"chat": "./chat/graph.py:graph"
},
"auth": {
"path": "./auth.py:auth",
"openapi": {
"securitySchemes": {
"apiKeyAuth": {
"type": "apiKey",
"in": "header",
"name": "X-API-Key"
}
},
"security": [{ "apiKeyAuth": [] }]
},
"disable_studio_auth": false
}
}
有关详细信息,请参阅身份验证概念指南,有关实际操作,请参阅设置自定义身份验证指南。
配置存储项生存时间 (TTL)¶
您可以使用 store.ttl
键为 BaseStore 中的项目/内存配置默认数据过期。这决定了项目在最后一次访问后保留多长时间(读取操作可能会根据 refresh_on_read
刷新计时器)。请注意,这些默认值可以通过修改 get
、search
等中的相应参数来覆盖每个调用。
ttl
配置是一个包含可选字段的对象:
refresh_on_read
:如果为true
(默认值),通过get
或search
访问项目会重置其过期计时器。设置为false
则仅在写入(put
)时刷新 TTL。default_ttl
:项目的默认生命周期,以分钟为单位。如果未设置,项目默认不会过期。sweep_interval_minutes
:系统运行后台进程以删除过期项目的频率(以分钟为单位)。如果未设置,则不会自动清除。
以下是启用 7 天 TTL(10080 分钟)、在读取时刷新并每小时清除的示例:
{
"dependencies": ["."],
"graphs": {
"memory_agent": "./agent/graph.py:graph"
},
"store": {
"ttl": {
"refresh_on_read": true,
"sweep_interval_minutes": 60,
"default_ttl": 10080
}
}
}
配置检查点生存时间 (TTL)¶
您可以使用 checkpointer
键配置检查点的生存时间 (TTL)。这决定了检查点数据在根据指定策略(例如删除)自动处理之前保留多长时间。ttl
配置是一个包含以下内容的对象:
strategy
:对过期检查点采取的操作(目前"delete"
是唯一接受的选项)。sweep_interval_minutes
:系统检查过期检查点的频率(以分钟为单位)。default_ttl
:检查点的默认生存时间,以分钟为单位。
以下是设置 30 天默认 TTL(43200 分钟)的示例:
{
"dependencies": ["."],
"graphs": {
"chat": "./chat/graph.py:graph"
},
"checkpointer": {
"ttl": {
"strategy": "delete",
"sweep_interval_minutes": 10,
"default_ttl": 43200
}
}
}
在此示例中,超过 30 天的检查点将被删除,并且检查每 10 分钟运行一次。
基本配置¶
命令¶
用法
dev
¶
以开发模式运行 LangGraph API 服务器,具有热重载和调试功能。这个轻量级服务器不需要 Docker 安装,适用于开发和测试。状态持久化到本地目录。
注意
目前,CLI 仅支持 Python >= 3.11。
安装
此命令需要安装“inmem”附加功能
用法
选项
选项 | 默认 | 描述 |
---|---|---|
-c, --config 文件 |
langgraph.json |
声明依赖项、图和环境变量的配置文件的路径 |
--host TEXT |
127.0.0.1 |
服务器绑定的主机 |
--port 整数 |
2024 |
服务器绑定的端口 |
--no-reload |
禁用自动重载 | |
--n-jobs-per-worker 整数 |
每个工作进程的作业数。默认为 10 | |
--debug-port 整数 |
调试器监听的端口 | |
--wait-for-client |
False |
等待调试器客户端连接到调试端口后再启动服务器 |
--no-browser |
服务器启动时跳过自动打开浏览器 | |
--studio-url TEXT |
要连接的 LangGraph Studio 实例的 URL。默认为 https://smith.langchain.com | |
--allow-blocking |
False |
不为代码中的同步 I/O 阻塞操作引发错误(在 0.2.6 中添加) |
--tunnel |
False |
通过公共隧道(Cloudflare)暴露本地服务器,以便远程前端访问。这避免了 Safari 等浏览器或网络阻塞 localhost 连接的问题 |
--help |
显示命令文档 |
以开发模式运行 LangGraph API 服务器,具有热重载功能。这个轻量级服务器不需要 Docker 安装,适用于开发和测试。状态持久化到本地目录。
用法
选项
选项 | 默认 | 描述 |
---|---|---|
-c, --config 文件 |
langgraph.json |
声明依赖项、图和环境变量的配置文件的路径 |
--host TEXT |
127.0.0.1 |
服务器绑定的主机 |
--port 整数 |
2024 |
服务器绑定的端口 |
--no-reload |
禁用自动重载 | |
--n-jobs-per-worker 整数 |
每个工作进程的作业数。默认为 10 | |
--debug-port 整数 |
调试器监听的端口 | |
--wait-for-client |
False |
等待调试器客户端连接到调试端口后再启动服务器 |
--no-browser |
服务器启动时跳过自动打开浏览器 | |
--studio-url TEXT |
要连接的 LangGraph Studio 实例的 URL。默认为 https://smith.langchain.com | |
--allow-blocking |
False |
不为代码中的同步 I/O 阻塞操作引发错误 |
--tunnel |
False |
通过公共隧道(Cloudflare)暴露本地服务器,以便远程前端访问。这避免了浏览器或网络阻塞 localhost 连接的问题 |
--help |
显示命令文档 |
build
¶
构建 LangGraph 平台 API 服务器 Docker 镜像。
用法
选项
选项 | 默认 | 描述 |
---|---|---|
--platform TEXT |
构建 Docker 镜像的目标平台。示例:langgraph build --platform linux/amd64,linux/arm64 |
|
-t, --tag TEXT |
必需。Docker 镜像的标签。示例:langgraph build -t my-image |
|
--pull / --no-pull |
--pull |
使用最新的远程 Docker 镜像构建。使用 --no-pull 运行本地构建的 LangGraph 平台 API 服务器镜像。 |
-c, --config 文件 |
langgraph.json |
声明依赖项、图和环境变量的配置文件的路径。 |
--help |
显示此消息并退出。 |
构建 LangGraph 平台 API 服务器 Docker 镜像。
用法
选项
选项 | 默认 | 描述 |
---|---|---|
--platform TEXT |
构建 Docker 镜像的目标平台。示例:langgraph build --platform linux/amd64,linux/arm64 |
|
-t, --tag TEXT |
必需。Docker 镜像的标签。示例:langgraph build -t my-image |
|
--no-pull |
使用本地构建的镜像。默认为 false ,以使用最新的远程 Docker 镜像构建。 |
|
-c, --config 文件 |
langgraph.json |
声明依赖项、图和环境变量的配置文件的路径。 |
--help |
显示此消息并退出。 |
up
¶
启动 LangGraph API 服务器。对于本地测试,需要一个具有 LangGraph 平台封闭测试版访问权限的 LangSmith API 密钥。生产使用需要许可证密钥。
用法
选项
选项 | 默认 | 描述 |
---|---|---|
--wait |
等待服务启动后再返回。隐含 --detach | |
--postgres-uri TEXT |
本地数据库 | 用于数据库的 Postgres URI。 |
--watch |
文件更改时重启 | |
--debugger-base-url TEXT |
http://127.0.0.1:[端口] |
调试器访问 LangGraph API 使用的 URL。 |
--debugger-port 整数 |
在本地拉取调试器镜像并在指定端口提供 UI | |
--verbose |
显示更多服务器日志输出。 | |
-c, --config 文件 |
langgraph.json |
声明依赖项、图和环境变量的配置文件的路径。 |
-d, --docker-compose 文件 |
包含要启动的其他服务的 docker-compose.yml 文件路径。 | |
-p, --port 整数 |
8123 |
要暴露的端口。示例:langgraph up --port 8000 |
--pull / --no-pull |
pull |
拉取最新镜像。使用 --no-pull 运行本地构建的服务器镜像。示例:langgraph up --no-pull |
--recreate / --no-recreate |
no-recreate |
即使容器的配置和镜像没有改变,也要重新创建容器 |
--help |
显示此消息并退出。 |
启动 LangGraph API 服务器。对于本地测试,需要一个具有 LangGraph 平台封闭测试版访问权限的 LangSmith API 密钥。生产使用需要许可证密钥。
用法
选项
选项 | 默认 | 描述 |
---|---|---|
--wait |
等待服务启动后再返回。隐含 --detach | |
--postgres-uri TEXT |
本地数据库 | 用于数据库的 Postgres URI。 |
--watch |
文件更改时重启 | |
-c, --config 文件 |
langgraph.json |
声明依赖项、图和环境变量的配置文件的路径。 |
-d, --docker-compose 文件 |
包含要启动的其他服务的 docker-compose.yml 文件路径。 | |
-p, --port 整数 |
8123 |
要暴露的端口。示例:langgraph up --port 8000 |
--no-pull |
使用本地构建的镜像。默认为 false ,以使用最新的远程 Docker 镜像构建。 |
|
--recreate |
即使容器的配置和镜像没有改变,也要重新创建容器 | |
--help |
显示此消息并退出。 |
dockerfile
¶
生成用于构建 LangGraph 平台 API 服务器 Docker 镜像的 Dockerfile。
用法
选项
选项 | 默认 | 描述 |
---|---|---|
-c, --config 文件 |
langgraph.json |
声明依赖项、图和环境变量的配置文件路径。 |
--help |
显示此消息并退出。 |
示例
这将生成一个类似于以下的 Dockerfile
FROM langchain/langgraph-api:3.11
ADD ./pipconf.txt /pipconfig.txt
RUN PIP_CONFIG_FILE=/pipconfig.txt PYTHONDONTWRITEBYTECODE=1 pip install --no-cache-dir -c /api/constraints.txt langchain_community langchain_anthropic langchain_openai wikipedia scikit-learn
ADD ./graphs /deps/__outer_graphs/src
RUN set -ex && \
for line in '[project]' \
'name = "graphs"' \
'version = "0.1"' \
'[tool.setuptools.package-data]' \
'"*" = ["**/*"]'; do \
echo "$line" >> /deps/__outer_graphs/pyproject.toml; \
done
RUN PIP_CONFIG_FILE=/pipconfig.txt PYTHONDONTWRITEBYTECODE=1 pip install --no-cache-dir -c /api/constraints.txt -e /deps/*
ENV LANGSERVE_GRAPHS='{"agent": "/deps/__outer_graphs/src/agent.py:graph", "storm": "/deps/__outer_graphs/src/storm.py:graph"}'
更新您的 langgraph.json 文件
langgraph dockerfile
命令将您 langgraph.json
文件中的所有配置转换为 Dockerfile 命令。使用此命令时,每当您更新 langgraph.json
文件时,都必须重新运行它。否则,当您构建或运行 dockerfile 时,您的更改将不会反映出来。
生成用于构建 LangGraph 平台 API 服务器 Docker 镜像的 Dockerfile。
用法
选项
选项 | 默认 | 描述 |
---|---|---|
-c, --config 文件 |
langgraph.json |
声明依赖项、图和环境变量的配置文件路径。 |
--help |
显示此消息并退出。 |
示例
这将生成一个类似于以下的 Dockerfile
FROM langchain/langgraphjs-api:20
ADD . /deps/agent
RUN cd /deps/agent && yarn install
ENV LANGSERVE_GRAPHS='{"agent":"./src/react_agent/graph.ts:graph"}'
WORKDIR /deps/agent
RUN (test ! -f /api/langgraph_api/js/build.mts && echo "Prebuild script not found, skipping") || tsx /api/langgraph_api/js/build.mts
更新您的 langgraph.json 文件
npx @langchain/langgraph-cli dockerfile
命令将您 langgraph.json
文件中的所有配置转换为 Dockerfile 命令。使用此命令时,每当您更新 langgraph.json
文件时,都必须重新运行它。否则,当您构建或运行 dockerfile 时,您的更改将不会反映出来。