如何进行LangGraph的自托管部署¶
本操作指南将引导您如何从现有LangGraph应用程序创建Docker镜像,以便您可以在自己的基础设施上部署它。
工作原理¶
通过自托管部署选项,您将负责管理基础设施,包括设置和维护必要的数据库、Redis实例和其他服务。
您需要执行以下操作:
- 在您自己的基础设施上部署Redis和Postgres实例。
- 使用LangGraph Server和LangGraph CLI构建一个Docker镜像。
- 部署一个Web服务器,该服务器将运行Docker镜像并传入必要的环境变量。
环境变量¶
您最终需要将以下环境变量传递给LangGraph Deploy服务器:
REDIS_URI
:Redis实例的连接详细信息。Redis将用作发布-订阅代理,以实现从后台运行中实时输出流。DATABASE_URI
:Postgres连接详细信息。Postgres将用于存储助手、线程、运行、持久化线程状态和长期记忆,并以“仅一次”语义管理后台任务队列的状态。LANGSMITH_API_KEY
:(如果使用[自托管精简版]) LangSmith API密钥。这将在服务器启动时进行一次认证。LANGGRAPH_CLOUD_LICENSE_KEY
:(如果使用自托管企业版) LangGraph平台许可证密钥。这将在服务器启动时进行一次认证。
构建Docker镜像¶
请阅读应用程序结构指南,以了解如何构建您的LangGraph应用程序。
如果应用程序结构正确,您可以构建一个包含LangGraph Deploy服务器的Docker镜像。
要构建Docker镜像,您首先需要安装CLI
然后您可以使用
这将构建一个包含LangGraph Deploy服务器的Docker镜像。-t my-image
用于为镜像命名和打标签。
运行此服务器时,您需要传入三个环境变量
在本地运行应用程序¶
使用Docker¶
如果您想快速运行它而无需单独设置Redis和Postgres实例,可以使用此docker compose文件。
注意
- 您需要将
my-image
替换为上一步(来自langgraph build
)中构建的镜像名称。并且您应该为REDIS_URI
、DATABASE_URI
和LANGSMITH_API_KEY
提供适当的值。 - 如果您的应用程序需要额外的环境变量,您可以以类似的方式传入它们。
- 如果使用自托管企业版,您必须提供
LANGGRAPH_CLOUD_LICENSE_KEY
作为额外的环境变量。
使用Docker Compose¶
volumes:
langgraph-data:
driver: local
services:
langgraph-redis:
image: redis:6
healthcheck:
test: redis-cli ping
interval: 5s
timeout: 1s
retries: 5
langgraph-postgres:
image: postgres:16
ports:
- "5433:5432"
environment:
POSTGRES_DB: postgres
POSTGRES_USER: postgres
POSTGRES_PASSWORD: postgres
volumes:
- langgraph-data:/var/lib/postgresql/data
healthcheck:
test: pg_isready -U postgres
start_period: 10s
timeout: 1s
retries: 5
interval: 5s
langgraph-api:
image: ${IMAGE_NAME}
ports:
- "8123:8000"
depends_on:
langgraph-redis:
condition: service_healthy
langgraph-postgres:
condition: service_healthy
env_file:
- .env
environment:
REDIS_URI: redis://langgraph-redis:6379
LANGSMITH_API_KEY: ${LANGSMITH_API_KEY}
POSTGRES_URI: postgres://postgres:postgres@langgraph-postgres:5432/postgres?sslmode=disable
然后,您可以在同一文件夹中使用此Docker Compose文件运行 docker compose up
。
这将在端口 8123
上启动 LangGraph Deploy(如果您想更改此端口,可以通过更改 langgraph-api
卷中的端口来实现)。
您可以通过检查以下内容来测试应用程序是否已启动:
假设一切运行正常,您应该会看到类似以下内容的响应: