如何部署自托管控制平面¶
在部署之前,请查阅自托管控制平面部署选项的概念指南。
重要提示
自托管控制平面部署选项目前处于测试阶段,需要企业版计划。
先决条件¶
- 您正在使用 Kubernetes。
- 您已部署自托管 LangSmith。
- 使用 LangGraph CLI 在本地测试您的应用程序。
- 使用 LangGraph CLI 构建 Docker 镜像(例如
langgraph build
)并将其推送到您的 Kubernetes 集群可以访问的镜像仓库。 - 您的集群上已安装
KEDA
。helm repo add kedacore https://kedacore.github.io/charts helm install keda kedacore/keda --namespace keda --create-namespace
- 入口配置
- 您必须为 LangSmith 实例设置入口。所有代理都将作为 Kubernetes 服务部署在此入口后面。
- 您可以使用本指南为您的实例设置入口。
- 您的集群有足够的空闲空间用于多次部署。建议使用
Cluster-Autoscaler
自动配置新节点。 -
您的集群上有一个有效的动态 PV 供应器或可用的 PV。您可以通过运行以下命令进行验证:
kubectl get storageclass
设置¶
- 作为配置自托管 LangSmith 实例的一部分,您需要启用
langgraphPlatform
选项。这将配置几个关键资源。 -
图表将使用另外两个镜像。
hostBackendImage: repository: "docker.io/langchain/hosted-langserve-backend" pullPolicy: IfNotPresent tag: "0.9.80" operatorImage: repository: "docker.io/langchain/langgraph-operator" pullPolicy: IfNotPresent tag: "aa9dff4"
-
在您的
values.yaml
文件中,启用langgraphPlatform
选项。请注意,您还必须有一个有效的入口设置:config: langgraphPlatform: enabled: true langgraphPlatformLicenseKey: "YOUR_LANGGRAPH_PLATFORM_LICENSE_KEY" -
在您的
values.yaml
文件中,配置hostBackendImage
和operatorImage
选项(如果您需要镜像图像) -
您还可以通过覆盖此处的基础模板来配置代理的基础模板。
- 您可以从控制平面 UI 创建部署。