跳到内容

云 SaaS

前提条件

概述

LangGraph 云 SaaS 是一项托管服务，用于部署 LangGraph 服务器，无论其定义或依赖关系如何。该服务提供检查点和存储的托管实现，使您能够专注于为您的用例构建正确的认知架构。通过处理可扩展且安全的基础设施，LangGraph 云 SaaS 为您提供了将 LangGraph 服务器部署到生产环境的最快途径。

部署

部署 是 LangGraph 服务器的一个实例。单个部署可以有多个修订版本。创建部署时，所有必要的基础设施（例如数据库、容器、密钥存储）都会自动配置。有关更多详细信息，请参阅下面的架构图。

资源分配

部署类型 CPU 内存 扩缩容
开发 1 CPU 1 GB 最多 1 个容器
生产 2 CPU 2 GB 最多 10 个容器

请参阅操作指南，了解如何创建新部署。

修订

修订是部署的一次迭代。创建新部署时，会自动创建一个初始修订版本。要部署新的代码更改或更新部署的环境变量配置，必须创建一个新的修订版本。创建修订版本时，会自动构建新的容器镜像。

请参阅操作指南，了解如何创建新修订版本。

持久性

每个部署都会自动创建一个专用数据库。该数据库充当部署的持久层。

当定义要部署到 LangGraph 云 SaaS 的图时，用户不应配置检查点。相反，系统会自动为该图配置检查点。

无法直接访问数据库。所有对数据库的访问都通过 LangGraph 服务器 API 进行。

自动扩缩容

生产类型部署自动扩展至最多 10 个容器。扩缩容基于单个容器的当前请求负载。具体而言，自动扩缩容实现会扩展部署，以便每个容器处理大约 10 个并发请求。例如...

  • 如果部署正在处理 20 个并发请求，则部署将从 1 个容器扩展到 2 个容器（20 个请求 / 2 个容器 = 每个容器 10 个请求）。
  • 如果 2 个容器的部署正在处理 10 个请求，则部署将从 2 个容器缩减到 1 个容器（10 个请求 / 1 个容器 = 每个容器 10 个请求）。

每个容器 10 个并发请求是目标阈值。但是，每个容器 10 个并发请求并不是硬性限制。如果请求突然爆发，并发请求数可能会超过 10 个。

缩减操作会延迟 30 分钟，然后才采取任何措施。换句话说，如果自动扩缩容实现决定缩减部署，它将首先等待 30 分钟，然后再缩减。30 分钟后，将重新计算并发指标，如果并发指标已达到目标阈值，则部署将缩减。否则，部署将保持扩展状态。此“冷却”期可确保部署不会过于频繁地扩展和缩减。

未来，自动扩缩容实现可能会发展以适应其他指标，例如后台运行队列大小。

异步部署

部署和修订的基础设施是异步配置和部署的。它们不是在提交后立即部署的。目前，部署可能需要几分钟时间。

  • 创建新部署时，会为该部署创建一个新的数据库。数据库创建是一次性步骤。此步骤导致部署的初始修订版本的部署时间更长。
  • 当为部署创建后续修订版本时，不会执行数据库创建步骤。与初始修订版本的部署时间相比，后续修订版本的部署时间明显更快。
  • 每个修订版本的部署过程都包含一个构建步骤，该步骤可能需要几分钟时间。

LangSmith 集成

每个部署都会自动创建一个 LangSmith 追踪项目。追踪项目与部署同名。创建部署时，无需指定 LANGCHAIN_TRACING_V2 和 LANGCHAIN_API_KEY 环境变量；它们在内部自动设置。每次运行都会创建追踪，并自动发送到追踪项目。

删除部署时，追踪和追踪项目不会被删除。

自动删除

部署在连续 28 天未使用后（处于未使用状态）会自动删除。如果连续 28 天没有从部署向 LangSmith 发送追踪，则部署处于未使用状态。在任何一天，如果部署向 LangSmith 发送追踪，则未使用连续天数的计数器将重置。

  • 在连续 7 天未使用后，将发送电子邮件通知。
  • 部署在连续 28 天未使用后会被删除。

数据无法恢复

删除部署后，无法恢复部署中的数据（即持久性）。

架构

可能会更改

云 SaaS 部署架构将来可能会更改。

云 SaaS 部署的高级图表。

diagram

IP 地址白名单

来自 2025 年 1 月 6 日之后创建的 LangGraph 平台部署的所有流量都将通过 NAT 网关。此 NAT 网关将具有多个静态 IP 地址，具体取决于您部署的区域。请参阅下表，获取要添加到白名单的 IP 地址列表

美国 欧盟
35.197.29.146 34.13.192.67
34.145.102.123 34.147.105.64
34.169.45.153 34.90.22.166
34.82.222.17 34.147.36.213
35.227.171.135 34.32.137.113
34.169.88.30 34.91.238.184
34.19.93.202 35.204.101.241
34.19.34.50 35.204.48.32

评论