Skip to main content
重要提示
自托管 LangSmith 是企业版计划的附加组件,专为规模最大、对安全性要求最高的客户设计。更多详情,请参阅定价。如果您希望获取许可证密钥以在您的环境中试用 LangSmith,请联系我们的销售团队
LangSmith 支持不同的自托管配置,具体取决于您的规模、安全性和基础设施需求。 您可以使用 LangSmith 进行可观测性评估,而无需部署代理。或者,您可以设置完整的自托管平台,用于可观测性、评估和代理部署。此外,您也可以直接部署代理,而无需使用控制平面
有关在 AWS、GCP 或 Azure 上自托管 LangSmith 的分步设置说明,请参阅我们的云架构指南:AWSGCPAzure
本页概述了每种自托管模型:

LangSmith 可观测性与评估

托管一个包含 UI 和 API 中可观测性、追踪和评估功能的 LangSmith 实例。最适合希望进行自托管监控和评估,但不部署代理的团队。

LangSmith 可观测性、评估与部署

支持通过控制平面将图部署到代理服务器。控制平面和数据平面提供完整的 LangSmith 平台,用于运行和监控代理。这包括可观测性、评估和部署。

独立服务器

直接托管代理服务器,无需控制平面 UI。这是一个轻量级选项,用于将一个或几个代理作为独立服务运行,并完全控制扩展和集成。
有关设置指南,请参阅:支持的计算平台:Kubernetes(用于 LangSmith 部署),任何计算平台(用于独立服务器)

自托管 LangSmith 可观测性与评估

托管一个包含 UI 和 API 中可观测性、追踪和评估功能的 LangSmith 实例,但不具备通过控制平面部署代理的能力。 这包括: 服务:
  • LangSmith 前端 UI
  • LangSmith 后端 API
  • LangSmith 平台后端
  • LangSmith Playground
  • LangSmith 队列
  • LangSmith ACE(任意代码执行)后端
存储服务:
  • ClickHouse(追踪和反馈数据)
  • PostgreSQL(操作数据)
  • Redis(队列和缓存)
  • Blob 存储(可选,但生产环境推荐使用)
显示服务和数据存储的 LangSmith 架构 要访问 LangSmith UI 并发送 API 请求,您需要暴露 LangSmith 前端 服务。根据您的安装方法,这可以是负载均衡器或主机上暴露的端口。

服务

存储服务

LangSmith 默认会捆绑所有存储服务。您可以将其配置为使用所有存储服务的外部版本。在生产环境中,我们强烈建议使用外部存储服务
要安装,请遵循 Kubernetes 设置指南

启用 LangSmith 部署

LangSmith 部署是一个可选的附加组件,可以在您的 LangSmith 实例上启用。它非常适合希望拥有一个集中式、UI 驱动的平台来部署和管理多个代理和图的企业团队,所有基础设施、数据和编排完全由他们自己控制。 这包括 LangSmith 的所有内容,加上: 您完全在自己的基础设施内运行控制平面和数据平面。您负责配置和管理所有组件。
了解更多关于控制平面数据平面架构概念。
包含控制平面和数据平面的完整平台架构

工作流程

如果您想自托管 LangSmith 以进行可观测性、评估和代理部署,请按照以下步骤操作:
1

安装自托管 LangSmith

您必须已经在您的云中安装了一个自托管 LangSmith 实例,并拥有一个 Kubernetes 集群(控制平面和数据平面必需)。
2

在本地测试您的图

使用 langgraph-cliStudio 在本地测试您的图。
3

启用 LangSmith 部署

按照设置指南在您的 LangSmith 实例上启用 LangSmith 部署。

独立服务器

独立服务器选项是运行 LangSmith 最轻量级和最灵活的方式。与其他模型不同,您只需管理一个简化的 ,该平面由代理服务器及其所需的后端服务(PostgreSQL、Redis 等)组成。 这包括: 此选项让您完全控制扩展、部署和 CI/CD 流水线,同时仍允许选择性地与 LangSmith 集成以进行追踪和评估。
不要在无服务器环境中运行独立服务器。缩容到零可能导致任务丢失,扩容将无法可靠工作。
独立服务器架构

工作流程

  1. 使用 langgraph-cliStudio 在本地定义和测试您的图
  2. 将您的代理打包为 Docker 镜像
  3. 将代理服务器部署到您选择的计算平台(Kubernetes、Docker、虚拟机)
  4. 可选地,配置 LangSmith API 密钥和端点,以便服务器将追踪和评估报告回 LangSmith(自托管或 SaaS)

支持的计算平台

  • Kubernetes:使用 LangSmith Helm Chart 在 Kubernetes 集群中运行代理服务器。这是生产级部署的推荐选项。
  • Docker:在任何支持 Docker 的计算平台(本地开发机、虚拟机、ECS 等)上运行。这最适合开发或小规模工作负载。

设置指南

要设置代理服务器,请参阅应用程序部署部分中的操作指南