LangGraph 平台¶
使用 LangGraph Platform——专为长期运行的代理工作流而构建的平台——开发、部署、扩展和管理代理。
LangGraph Platform 入门
查看 LangGraph Platform 快速入门,了解如何使用 LangGraph Platform 在本地运行 LangGraph 应用程序。
为何使用 LangGraph Platform?¶
LangGraph Platform 让您的代理轻松投入生产运行——无论是使用 LangGraph 还是其他框架构建——因此您可以专注于应用程序逻辑,而不是基础设施。一键部署即可获得实时端点,并使用我们强大的 API 和内置任务队列来处理生产规模。
-
流式传输支持:随着代理变得越来越复杂,它们通常受益于将令牌输出和中间状态流式传输回用户。如果没有此功能,用户将被迫等待可能长时间的操作而没有反馈。LangGraph Server 提供了多种流式传输模式,针对各种应用程序需求进行了优化。
-
后台运行:对于处理时间较长(例如数小时)的代理,保持开放连接可能不切实际。LangGraph Server 支持在后台启动代理运行,并提供轮询端点和 Webhooks 以有效监控运行状态。
-
支持长时间运行:常规服务器设置在处理长时间完成的请求时,经常会遇到超时或中断。LangGraph Server 的 API 通过发送定期心跳信号,为这些任务提供强大的支持,防止在长时间处理过程中出现意外连接关闭。
-
处理突发流量:某些应用程序,特别是那些具有实时用户交互的应用程序,可能会遇到“突发”请求负载,即大量请求同时到达服务器。LangGraph Server 包含一个任务队列,确保即使在高负载下也能一致地处理请求而不会丢失。
-
重复发送消息:在用户驱动的应用程序中,用户快速发送多条消息是很常见的。如果处理不当,这种“重复发送消息”可能会扰乱代理流程。LangGraph Server 提供了内置策略来处理和管理此类交互。
-
检查点和内存管理:对于需要持久性(例如,对话记忆)的代理,部署一个健壮的存储解决方案可能很复杂。LangGraph Platform 包含优化的检查点和内存存储,无需自定义解决方案即可管理跨会话的状态。
-
人工干预支持:在许多应用程序中,用户需要一种方式来干预代理过程。LangGraph Server 为人工干预场景提供了专门的端点,简化了将人工监督集成到代理工作流中的过程。
-
LangGraph Studio:支持实现 LangGraph Server API 协议的代理系统的可视化、交互和调试。Studio 还与 LangSmith 集成,以实现追踪、评估和提示工程。
-
部署:在 LangGraph Platform 上有四种部署方式:云 SaaS、自托管数据平面、自托管控制平面和独立容器。