跳到内容

如何部署自托管数据平面

在部署之前，请查阅自托管数据平面部署选项的概念指南。

重要

自托管数据平面部署选项需要企业版计划。

先决条件

  1. 使用 LangGraph CLI 在本地测试您的应用程序。
  2. 使用LangGraph CLI构建 Docker 镜像（即 langgraph build）并将其推送到您的 Kubernetes 集群或 Amazon ECS 集群可以访问的注册表。

Kubernetes

先决条件

  1. 您的集群上已安装 KEDA。

    helm repo add kedacore https://kedacore.github.io/charts
helm install keda kedacore/keda --namespace keda --create-namespace

  2. 您的集群上已安装有效的 Ingress 控制器。

  3. 您的集群中有足够的空闲空间用于多个部署。建议使用 Cluster-Autoscaler 自动配置新节点。
  4. 您需要启用出站到两个控制平面 URL。侦听器会轮询这些端点以获取部署信息
    https://api.host.langchain.com
https://api.smith.langchain.com

设置

  1. 您提供您的 LangSmith 组织 ID。我们将为您的组织启用自托管数据平面。
  2. 我们为您提供一个Helm chart，您运行它来设置您的 Kubernetes 集群。此 chart 包含一些重要组件。
    1. langgraph-listener：这是一个服务，它监听 LangChain 的控制平面以获取您部署的更改并创建/更新下游 CRD。
    2. LangGraphPlatform CRD：用于 LangGraph 平台部署的 CRD。它包含用于管理 LangGraph 平台部署实例的规范。
    3. langgraph-platform-operator：此操作员处理您的 LangGraph 平台 CRD 的更改。

  3. 配置您的 langgraph-dataplane-values.yaml 文件。

    config:
  langsmithApiKey: "" # API Key of your Workspace
  langsmithWorkspaceId: "" # Workspace ID
  hostBackendUrl: "https://api.host.langchain.com" # Only override this if on EU
  smithBackendUrl: "https://api.smith.langchain.com" # Only override this if on EU

  4. 部署 langgraph-dataplane Helm chart。

    helm repo add langchain https://github.langchain.ac.cn/helm/
helm repo update
helm upgrade -i langgraph-dataplane langchain/langgraph-dataplane --values langgraph-dataplane-values.yaml

  5. 如果成功，您将在您的命名空间中看到两个服务启动。

    NAME                                          READY   STATUS              RESTARTS   AGE
langgraph-dataplane-listener-7fccd788-wn2dx   0/1     Running             0          9s
langgraph-dataplane-redis-0                   0/1     ContainerCreating   0          9s

  6. 您可以从控制平面 UI 创建部署。

Amazon ECS

即将推出！