跳到内容

如何部署自托管控制平面

在部署之前,请查阅自托管控制平面部署选项的概念指南。

重要提示

自托管控制平面部署选项目前处于测试阶段,需要企业版计划。

先决条件

  1. 您正在使用 Kubernetes。
  2. 您已部署自托管 LangSmith。
  3. 使用 LangGraph CLI本地测试您的应用程序
  4. 使用 LangGraph CLI 构建 Docker 镜像(例如 langgraph build)并将其推送到您的 Kubernetes 集群可以访问的镜像仓库。
  5. 您的集群上已安装 KEDA
     helm repo add kedacore https://kedacore.github.io/charts 
     helm install keda kedacore/keda --namespace keda --create-namespace
    
    1. 入口配置
    2. 您必须为 LangSmith 实例设置入口。所有代理都将作为 Kubernetes 服务部署在此入口后面。
    3. 您可以使用本指南为您的实例设置入口
    4. 您的集群有足够的空闲空间用于多次部署。建议使用 Cluster-Autoscaler 自动配置新节点。
    5. 您的集群上有一个有效的动态 PV 供应器或可用的 PV。您可以通过运行以下命令进行验证:

      kubectl get storageclass

设置

  1. 作为配置自托管 LangSmith 实例的一部分,您需要启用 langgraphPlatform 选项。这将配置几个关键资源。
    1. listener:这是一个服务,它监听控制平面的部署变更,并创建/更新下游 CRD。
    2. LangGraphPlatform CRD:一个用于 LangGraph 平台部署的 CRD。它包含管理 LangGraph 平台部署实例的规范。
    3. operator:此操作符处理 LangGraph 平台 CRD 的变更。
    4. host-backend:这是控制平面
  2. 图表将使用另外两个镜像。

    hostBackendImage:
      repository: "docker.io/langchain/hosted-langserve-backend"
      pullPolicy: IfNotPresent
      tag: "0.9.80"
    operatorImage:
      repository: "docker.io/langchain/langgraph-operator"
      pullPolicy: IfNotPresent
      tag: "aa9dff4"
    
  3. 在您的 values.yaml 文件中,启用 langgraphPlatform 选项。请注意,您还必须有一个有效的入口设置:config: langgraphPlatform: enabled: true langgraphPlatformLicenseKey: "YOUR_LANGGRAPH_PLATFORM_LICENSE_KEY"

  4. 在您的 values.yaml 文件中,配置 hostBackendImageoperatorImage 选项(如果您需要镜像图像)

  5. 您还可以通过覆盖此处的基础模板来配置代理的基础模板。

  6. 您可以从控制平面 UI 创建部署。