Skip to main content
混合选项需要 Enterprise 计划。获取演示 以了解更多信息。
混合模式将 LangSmith 基础设施拆分到 LangChain 的云和您的云之间:
  • 控制平面(LangSmith UI、API 和编排)运行在 LangChain 的云中,由 LangChain 管理。
  • 数据平面(您的 和代理工作负载)运行在您的云中,由您管理。
这结合了托管界面的便利性和在您自己的环境中运行工作负载的灵活性。
了解更多关于 控制平面数据平面Agent 服务器 架构概念的信息。
组件职责运行位置管理者
  • 用于创建部署和修订的 UI
  • 用于管理部署的 API
  • 可观测性数据存储
LangChain 的云LangChain
  • 用于协调部署的操作员/监听器
  • Agent 服务器(代理/图)
  • 后端服务(Postgres、Redis 等)
您的云
在混合模式下运行 LangSmith 时,您使用 LangSmith API 密钥 进行身份验证。

工作流程

  1. 使用 langgraph-cliStudio 在本地测试您的图。
  2. 使用 langgraph build 命令构建 Docker 镜像。
  3. 控制平面 UI 部署您的 Agent 服务器。
支持的计算平台:Kubernetes
有关设置,请参阅 混合设置指南

架构

混合部署:LangChain 托管的控制平面(LangSmith UI/API)管理部署。您的云在 Kubernetes 上运行监听器、Agent 服务器实例和后端存储(Postgres/Redis)。

计算平台

  • Kubernetes:混合模式支持在任何 Kubernetes 集群上运行数据平面。
有关在 Kubernetes 中的设置,请参阅 混合设置指南

出站流量到 LangSmith 和控制平面

在混合部署模型中,您自托管的数据平面将向控制平面发送网络请求,以轮询需要在数据平面中实现的更改。来自数据平面部署的跟踪数据也会发送到与控制平面集成的 LangSmith 实例。此到控制平面的流量是加密的,通过 HTTPS 传输。数据平面使用 LangSmith API 密钥向控制平面进行身份验证。 为了启用此出站流量,您可能需要更新内部防火墙规则或云资源(例如安全组)以 允许特定的 IP 地址
目前不支持 AWS/Azure PrivateLink 或 GCP Private Service Connect。此流量将通过互联网传输。

监听器

在混合选项中,一个或多个 “监听器” 应用程序 可以运行,具体取决于您的 LangSmith 工作区和 Kubernetes 集群的组织方式。

Kubernetes 集群组织

  • 一个或多个监听器可以在一个 Kubernetes 集群中运行。
  • 一个监听器可以部署到该集群中的一个或多个命名空间。
  • 多个监听器不能部署到同一个命名空间。
  • 集群所有者负责规划监听器布局和 Agent 服务器部署。

LangSmith 工作区组织

  • 一个工作区可以与一个或多个监听器关联。
  • 一个监听器只能与一个工作区关联。LangSmith 工作区到监听器是一对多的关系。
  • 一个工作区只能部署到其所有监听器都已部署的 Kubernetes 集群。

用例

以下是一些常见的监听器配置(非严格要求):

每个 LangSmith 工作区 → 独立的 Kubernetes 集群

  • 集群 alpha 运行工作区 A
  • 集群 beta 运行工作区 B

一个集群,每个工作区一个命名空间

  • 集群 alpha,命名空间 1 运行工作区 A
  • 集群 alpha,命名空间 2 运行工作区 B

独立的集群,共享 “dev” 集群

  • 集群 alpha 运行工作区 A
  • 集群 beta 运行工作区 B
  • 集群 dev 运行工作区 AB
  • 两个工作区都有两个监听器;集群 dev 有两个监听器部署