跳到内容

如何部署自托管数据平面

在部署之前,请查阅自托管数据平面部署选项的概念指南

重要提示

自托管数据平面部署选项目前处于测试阶段,需要企业版方案。

先决条件

  1. 使用LangGraph CLI本地测试您的应用程序
  2. 使用LangGraph CLI构建 Docker 镜像(即 `langgraph build`),并将其推送到您的 Kubernetes 集群或 Amazon ECS 集群可以访问的注册表。

Kubernetes

先决条件

  1. 您的集群上已安装 `KEDA`。

    helm repo add kedacore https://kedacore.github.io/charts 
    helm install keda kedacore/keda --namespace keda --create-namespace
    
  2. 您的集群上已安装有效的 `Ingress` 控制器。

  3. 您的集群中有足够的空闲空间用于多个部署。建议使用 `Cluster-Autoscaler` 自动配置新节点。

设置

  1. 您提供您的 LangSmith 组织 ID。我们将为您的组织启用自托管数据平面。
  2. 我们为您提供一个Helm chart,您可以运行它来设置您的 Kubernetes 集群。此 chart 包含几个重要组件。
    1. `langgraph-listener`:这是一个服务,用于监听 LangChain 的控制平面,以获取您的部署更改,并创建/更新下游 CRD。
    2. `LangGraphPlatform CRD`:一个用于 LangGraph 平台部署的 CRD。它包含管理 LangGraph 平台部署实例的规范。
    3. `langgraph-platform-operator`:此操作器处理对 LangGraph 平台 CRD 的更改。
  3. 配置您的 `langgraph-dataplane-values.yaml` 文件。

    config:
      langgraphPlatformLicenseKey: "" # Your LangGraph Platform license key
      langsmithApiKey: "" # API Key of your Workspace
      langsmithWorkspaceId: "" # Workspace ID
      hostBackendUrl: "https://api.host.langchain.com" # Only override this if on EU
      smithBackendUrl: "https://api.smith.langchain.com" # Only override this if on EU
    
  4. 部署 `langgraph-dataplane` Helm chart。

    helm repo add langchain https://github.langchain.ac.cn/helm/
    helm repo update
    helm upgrade -i langgraph-dataplane langchain/langgraph-dataplane --values langgraph-dataplane-values.yaml
    
  5. 如果成功,您将看到您的命名空间中有两个服务启动。

    NAME                                          READY   STATUS              RESTARTS   AGE
    langgraph-dataplane-listener-7fccd788-wn2dx   0/1     Running             0          9s
    langgraph-dataplane-redis-0                   0/1     ContainerCreating   0          9s
    
  6. 您可以从控制平面用户界面创建部署。

Amazon ECS

即将推出!