LangGraph平台¶
使用LangGraph平台开发、部署、扩展和管理代理——这是一个专为长时间运行的代理工作流而构建的平台。
LangGraph平台入门
请查看LangGraph平台快速入门,了解如何使用LangGraph平台在本地运行LangGraph应用程序的说明。
为何使用LangGraph平台?¶
LangGraph平台使您的代理(无论是使用LangGraph还是其他框架构建)轻松投入生产,这样您就可以专注于应用程序逻辑,而不是基础设施。一键部署即可获得实时端点,并使用我们强大的API和内置任务队列来处理生产规模。
-
流式传输支持:随着代理变得越来越复杂,它们通常受益于将令牌输出和中间状态流式传输回用户。如果没有这一点,用户将被迫等待可能长时间的操作,而没有任何反馈。LangGraph服务器提供了针对各种应用程序需求优化的多种流式传输模式。
-
后台运行:对于处理时间较长(例如数小时)的代理,保持开放连接可能不切实际。LangGraph服务器支持在后台启动代理运行,并提供轮询端点和Webhooks以有效监控运行状态。
-
支持长时间运行:常规服务器设置在处理长时间完成的请求时,经常会遇到超时或中断。LangGraph服务器的API通过发送常规心跳信号,提供了对这些任务的强大支持,防止在长时间处理过程中意外连接关闭。
-
处理突发流量:某些应用程序,特别是那些具有实时用户交互的应用程序,可能会遇到“突发”请求负载,即大量请求同时到达服务器。LangGraph服务器包含一个任务队列,确保即使在重负载下也能持续处理请求而不会丢失。
-
重复发送消息:在用户驱动的应用程序中,用户快速发送多条消息是很常见的。如果处理不当,这种“重复发送消息”可能会扰乱代理流程。LangGraph服务器提供了内置策略来处理和管理此类交互。
-
检查点和内存管理:对于需要持久化(例如,对话记忆)的代理,部署强大的存储解决方案可能很复杂。LangGraph平台包含优化的检查点和内存存储,可在会话之间管理状态,无需自定义解决方案。
-
人机协作支持:在许多应用程序中,用户需要一种干预代理过程的方式。LangGraph服务器为人工干预场景提供了专门的端点,简化了将人工监督集成到代理工作流中。
-
LangGraph Studio:能够可视化、交互和调试实现LangGraph服务器API协议的代理系统。Studio还与LangSmith集成,以实现追踪、评估和提示工程。