跳到内容

如何部署自托管控制平面

部署前,请查阅自托管控制平面部署选项的概念指南

重要

自托管控制平面部署选项需要企业版计划。

先决条件

  1. 您正在使用 Kubernetes。
  2. 您已部署自托管的 LangSmith。
  3. 使用 LangGraph CLI本地测试您的应用程序
  4. 使用 LangGraph CLI 构建 Docker 镜像(即 langgraph build)并将其推送到您的 Kubernetes 集群可以访问的注册表。
  5. 您的集群上已安装 KEDA
     helm repo add kedacore https://kedacore.github.io/charts 
     helm install keda kedacore/keda --namespace keda --create-namespace
    
    1. Ingress 配置
    2. 您必须为您的 LangSmith 实例设置 Ingress。所有代理都将作为 Kubernetes 服务部署在此 Ingress 后面。
    3. 您可以使用本指南为您的实例设置 Ingress
    4. 您的集群中有足够的空闲空间用于多次部署。建议使用 Cluster-Autoscaler 自动配置新节点。
    5. 您的集群上需要有有效的动态 PV 供应器或可用的 PV。您可以通过运行以下命令进行验证:

      kubectl get storageclass

设置

  1. 作为配置自托管 LangSmith 实例的一部分,您需要启用 langgraphPlatform 选项。这将配置一些关键资源。
    1. listener(监听器):这是一个服务,用于监听控制平面上您的部署变更,并创建/更新下游 CRD。
    2. LangGraphPlatform CRD:用于 LangGraph 平台部署的 CRD。它包含管理 LangGraph 平台部署实例的规范。
    3. operator(操作器):此操作器处理您的 LangGraph 平台 CRD 的变更。
    4. host-backend(主机后端):这是控制平面
  2. Helm Chart 将使用另外两个镜像。请使用最新版本中指定的镜像。

    hostBackendImage:
      repository: "docker.io/langchain/hosted-langserve-backend"
      pullPolicy: IfNotPresent
    operatorImage:
      repository: "docker.io/langchain/langgraph-operator"
      pullPolicy: IfNotPresent
    
  3. 在 LangSmith 的配置文件(通常是 langsmith_config.yaml)中,启用 langgraphPlatform 选项。请注意,您还必须有一个有效的 Ingress 设置。

    config:
      langgraphPlatform:
        enabled: true
        langgraphPlatformLicenseKey: "YOUR_LANGGRAPH_PLATFORM_LICENSE_KEY"
    
    1. 在您的 values.yaml 文件中,配置 hostBackendImageoperatorImage 选项(如果您需要镜像)。
  4. 您还可以通过此处覆盖基础模板来为您的代理配置基础模板。

  5. 您可以从控制平面 UI 创建部署。