如何部署自托管数据平面 (Beta)

在部署之前，请查阅自托管数据平面部署选项的概念指南。

先决条件

1. 使用LangGraph CLI在本地测试您的应用。
2. 使用LangGraph CLI 构建 Docker 镜像（即 langgraph build），并将其推送到您的 Kubernetes 集群或 Amazon ECS 集群可以访问的注册表。

Kubernetes

先决条件

1. 您的集群上已安装 KEDA。

   helm repo add kedacore https://kedacore.github.io/charts 
   helm install keda kedacore/keda --namespace keda --create-namespace
   

2. 您的集群上已安装有效的 Ingress 控制器。

3. 您的集群有足够的空闲空间用于多个部署。建议使用 Cluster-Autoscaler 自动配置新节点。

设置

1. 您向我们提供您的 LangSmith 组织 ID。我们将为您的组织启用自托管数据平面。
2. 我们为您提供一个Helm chart，您可以运行它来设置您的 Kubernetes 集群。此 chart 包含几个重要组件。
   1. langgraph-listener：这是一个服务，监听 LangChain 的控制平面，以获取您的部署更改，并创建/更新下游 CRD。
   2. LangGraphPlatform CRD：一个用于 LangGraph 平台部署的 CRD。它包含管理 LangGraph 平台部署实例的规范。
   3. langgraph-platform-operator：此操作器处理您的 LangGraph 平台 CRD 的更改。

3. 配置您的 langgraph-dataplane-values.yaml 文件。

   config:
     langgraphPlatformLicenseKey: "" # Your LangGraph Platform license key
     langsmithApiKey: "" # API Key of your Workspace
     langsmithWorkspaceId: "" # Workspace ID
     hostBackendUrl: "https://api.host.langchain.com" # Only override this if on EU
     smithBackendUrl: "https://api.smith.langchain.com" # Only override this if on EU
   

4. 部署 langgraph-dataplane Helm chart。

   helm repo add langchain https://github.langchain.ac.cn/helm/
   helm repo update
   helm upgrade -i langgraph-dataplane langchain/langgraph-dataplane --values langgraph-dataplane-values.yaml
   

5. 如果成功，您将在您的命名空间中看到两个服务启动。

   NAME                                          READY   STATUS              RESTARTS   AGE
   langgraph-dataplane-listener-7fccd788-wn2dx   0/1     Running             0          9s
   langgraph-dataplane-redis-0                   0/1     ContainerCreating   0          9s
   

6. 您可以从控制平面 UI 创建部署。

Amazon ECS

即将推出！

评论