如何部署自托管控制平面¶
部署前,请查阅自托管控制平面部署选项的概念指南。
重要
自托管控制平面部署选项需要企业版计划。
先决条件¶
- 您正在使用 Kubernetes。
- 您已部署自托管的 LangSmith。
- 使用 LangGraph CLI 在本地测试您的应用程序。
- 使用 LangGraph CLI 构建 Docker 镜像(即
langgraph build
)并将其推送到您的 Kubernetes 集群可以访问的注册表。 - 您的集群上已安装
KEDA
。helm repo add kedacore https://kedacore.github.io/charts helm install keda kedacore/keda --namespace keda --create-namespace
- Ingress 配置
- 您必须为您的 LangSmith 实例设置 Ingress。所有代理都将作为 Kubernetes 服务部署在此 Ingress 后面。
- 您可以使用本指南为您的实例设置 Ingress。
- 您的集群中有足够的空闲空间用于多次部署。建议使用
Cluster-Autoscaler
自动配置新节点。 -
您的集群上需要有有效的动态 PV 供应器或可用的 PV。您可以通过运行以下命令进行验证:
kubectl get storageclass
设置¶
- 作为配置自托管 LangSmith 实例的一部分,您需要启用
langgraphPlatform
选项。这将配置一些关键资源。 -
Helm Chart 将使用另外两个镜像。请使用最新版本中指定的镜像。
hostBackendImage: repository: "docker.io/langchain/hosted-langserve-backend" pullPolicy: IfNotPresent operatorImage: repository: "docker.io/langchain/langgraph-operator" pullPolicy: IfNotPresent
-
在 LangSmith 的配置文件(通常是
langsmith_config.yaml
)中,启用langgraphPlatform
选项。请注意,您还必须有一个有效的 Ingress 设置。config: langgraphPlatform: enabled: true langgraphPlatformLicenseKey: "YOUR_LANGGRAPH_PLATFORM_LICENSE_KEY"
- 在您的
values.yaml
文件中,配置hostBackendImage
和operatorImage
选项(如果您需要镜像)。
- 在您的
-
您还可以通过此处覆盖基础模板来为您的代理配置基础模板。
- 您可以从控制平面 UI 创建部署。