跳到内容

LangGraph 平台

使用 LangGraph Platform——专为长期运行的代理工作流而构建的平台——开发、部署、扩展和管理代理。

LangGraph Platform 入门

查看 LangGraph Platform 快速入门,了解如何使用 LangGraph Platform 在本地运行 LangGraph 应用程序。

为何使用 LangGraph Platform?

LangGraph Platform 让您的代理轻松投入生产运行——无论是使用 LangGraph 还是其他框架构建——因此您可以专注于应用程序逻辑,而不是基础设施。一键部署即可获得实时端点,并使用我们强大的 API 和内置任务队列来处理生产规模。

  • 流式传输支持:随着代理变得越来越复杂,它们通常受益于将令牌输出和中间状态流式传输回用户。如果没有此功能,用户将被迫等待可能长时间的操作而没有反馈。LangGraph Server 提供了多种流式传输模式,针对各种应用程序需求进行了优化。

  • 后台运行:对于处理时间较长(例如数小时)的代理,保持开放连接可能不切实际。LangGraph Server 支持在后台启动代理运行,并提供轮询端点和 Webhooks 以有效监控运行状态。

  • 支持长时间运行:常规服务器设置在处理长时间完成的请求时,经常会遇到超时或中断。LangGraph Server 的 API 通过发送定期心跳信号,为这些任务提供强大的支持,防止在长时间处理过程中出现意外连接关闭。

  • 处理突发流量:某些应用程序,特别是那些具有实时用户交互的应用程序,可能会遇到“突发”请求负载,即大量请求同时到达服务器。LangGraph Server 包含一个任务队列,确保即使在高负载下也能一致地处理请求而不会丢失。

  • 重复发送消息:在用户驱动的应用程序中,用户快速发送多条消息是很常见的。如果处理不当,这种“重复发送消息”可能会扰乱代理流程。LangGraph Server 提供了内置策略来处理和管理此类交互。

  • 检查点和内存管理:对于需要持久性(例如,对话记忆)的代理,部署一个健壮的存储解决方案可能很复杂。LangGraph Platform 包含优化的检查点内存存储,无需自定义解决方案即可管理跨会话的状态。

  • 人工干预支持:在许多应用程序中,用户需要一种方式来干预代理过程。LangGraph Server 为人工干预场景提供了专门的端点,简化了将人工监督集成到代理工作流中的过程。

  • LangGraph Studio:支持实现 LangGraph Server API 协议的代理系统的可视化、交互和调试。Studio 还与 LangSmith 集成,以实现追踪、评估和提示工程。

  • 部署:在 LangGraph Platform 上有四种部署方式:云 SaaS自托管数据平面自托管控制平面独立容器