Skip to main content
重要提示
自托管 LangSmith 是企业版计划的附加组件，专为规模最大、对安全性要求最高的客户设计。更多详情，请参阅定价。如果您希望获取许可证密钥以在您的环境中试用 LangSmith，请联系我们的销售团队。
LangSmith 支持不同的自托管配置，具体取决于您的规模、安全性和基础设施需求。 您可以使用 LangSmith 进行可观测性和评估，而无需部署代理。或者，您可以设置完整的自托管平台，用于可观测性、评估和代理部署。此外，您也可以直接部署代理，而无需使用控制平面。
有关在 AWS、GCP 或 Azure 上自托管 LangSmith 的分步设置说明，请参阅我们的云架构指南：AWS、GCP 或 Azure。
本页概述了每种自托管模型：

LangSmith 可观测性与评估

托管一个包含 UI 和 API 中可观测性、追踪和评估功能的 LangSmith 实例。最适合希望进行自托管监控和评估，但不部署代理的团队。

LangSmith 可观测性、评估与部署

支持通过控制平面将图部署到代理服务器。控制平面和数据平面提供完整的 LangSmith 平台，用于运行和监控代理。这包括可观测性、评估和部署。

独立服务器

直接托管代理服务器，无需控制平面 UI。这是一个轻量级选项，用于将一个或几个代理作为独立服务运行，并完全控制扩展和集成。
模型包含内容最适合方法
可观测性与评估
  • LangSmith (UI + API)
  • 后端服务（队列、Playground、ACE）
  • 数据存储：PostgreSQL、Redis、ClickHouse、可选的 Blob 存储
  • 需要自托管可观测性、追踪和评估的团队
  • 运行 LangSmith 但不部署代理/图
  • Kubernetes + Helm（生产环境）
可观测性、评估与部署
  • 可观测性与评估的所有内容
  • 控制平面（部署 UI、版本管理、Studio）
  • 数据平面（代理服务器 Pod）
  • 用于编排的 Kubernetes Operator
  • 需要私有 LangChain Cloud 的企业团队
  • 用于管理多个代理/图的集中式 UI/API
  • 集成的可观测性和编排
  • Kubernetes 与 Helm（必需）
  • 运行在 EKS、GKE、AKS 或自管理集群上
独立服务器
  • 代理服务器容器
  • 需要 PostgreSQL + Redis（共享或专用）
  • 可选的 LangSmith 集成用于追踪
  • 轻量级部署一个或几个代理
  • 将代理服务器集成为微服务
  • 希望自行管理扩展和 CI/CD 的团队
  • Kubernetes + Helm（生产环境）
  • 任何容器运行时或虚拟机（ECS、EC2、ACI 等）
有关设置指南，请参阅：支持的计算平台：Kubernetes（用于 LangSmith 部署），任何计算平台（用于独立服务器）

​
自托管 LangSmith 可观测性与评估

托管一个包含 UI 和 API 中可观测性、追踪和评估功能的 LangSmith 实例，但不具备通过控制平面部署代理的能力。 这包括： 服务：
  • LangSmith 前端 UI
  • LangSmith 后端 API
  • LangSmith 平台后端
  • LangSmith Playground
  • LangSmith 队列
  • LangSmith ACE（任意代码执行）后端
存储服务：
  • ClickHouse（追踪和反馈数据）
  • PostgreSQL（操作数据）
  • Redis（队列和缓存）
  • Blob 存储（可选，但生产环境推荐使用）
显示服务和数据存储的 LangSmith 架构 要访问 LangSmith UI 并发送 API 请求，您需要暴露 LangSmith 前端 服务。根据您的安装方法，这可以是负载均衡器或主机上暴露的端口。

​
服务

服务描述
LangSmith 前端前端使用 Nginx 提供 LangSmith UI 并将 API 请求路由到其他服务器。这作为应用程序的入口点，是唯一必须向用户暴露的组件。
LangSmith 后端后端是 CRUD API 请求的主要入口点，并处理应用程序的大部分业务逻辑。这包括处理来自前端和 SDK 的请求、准备追踪数据以供摄取，以及支持 Hub API。
LangSmith 队列队列处理传入的追踪和反馈，以确保它们被异步摄取并持久化到追踪和反馈数据存储中，处理数据完整性检查并确保成功插入数据存储，在数据库错误或暂时无法连接数据库等情况下处理重试。
LangSmith 平台后端平台后端是另一个关键服务，主要处理身份验证、运行摄取和其他高容量任务。
LangSmith PlaygroundPlayground 是一个服务，负责将请求转发到各种 LLM API 以支持 Playground 功能。这也可以用于连接您自己的自定义模型服务器。
LangSmith ACE（任意代码执行）后端ACE 后端是一个服务，负责在安全环境中执行任意代码。这用于支持在 LangSmith 中运行自定义代码。

​
存储服务

LangSmith 默认会捆绑所有存储服务。您可以将其配置为使用所有存储服务的外部版本。在生产环境中，我们强烈建议使用外部存储服务。
服务描述
ClickHouseClickHouse 是一个高性能、面向列的 SQL 数据库管理系统（DBMS），用于在线分析处理（OLAP）。

LangSmith 使用 ClickHouse 作为追踪和反馈（高容量数据）的主要数据存储。

💡 连接到外部 ClickHouse
PostgreSQLPostgreSQL 是一个强大的开源对象关系数据库系统，它使用并扩展了 SQL 语言，并结合了许多安全存储和扩展最复杂数据工作负载的功能。

LangSmith 使用 PostgreSQL 作为事务性工作负载和操作数据（除追踪和反馈外几乎所有内容）的主要数据存储。

💡 连接到外部 PostgreSQL - AWS RDS、GCP Cloud SQL、Azure Database
Redis / ValkeyRedis 是一个强大的内存中键值数据库，可持久化到磁盘。通过将数据保存在内存中，Redis 为缓存等操作提供了高性能。

LangSmith 使用 Redis 来支持队列和缓存操作。Valkey 也作为 Redis 的直接替代品得到官方支持。

💡 连接到外部 Redis 或 Valkey - AWS ElastiCache、GCP Memorystore、Azure Cache
Blob 存储LangSmith 支持多种 Blob 存储提供商，包括 AWS S3、Azure Blob Storage 和 Google Cloud Storage。

LangSmith 使用 Blob 存储来存储大文件，例如追踪工件、反馈附件和其他大型数据对象。Blob 存储是可选的，但强烈推荐用于生产部署。

💡 启用 Blob 存储 - AWS S3、GCP GCS、Azure Blob
要安装，请遵循 Kubernetes 设置指南。

​
启用 LangSmith 部署

LangSmith 部署是一个可选的附加组件，可以在您的 LangSmith 实例上启用。它非常适合希望拥有一个集中式、UI 驱动的平台来部署和管理多个代理和图的企业团队，所有基础设施、数据和编排完全由他们自己控制。 这包括 LangSmith 的所有内容，加上：
组件职责运行位置由谁管理
  • 用于创建部署和修订的 UI
  • 用于部署管理的 API
您的云您
  • 用于协调部署的 Operator/Listener
  • 代理服务器（代理/图）
  • 后端服务（Postgres、Redis 等）
您的云您
您完全在自己的基础设施内运行控制平面和数据平面。您负责配置和管理所有组件。
了解更多关于控制平面和数据平面架构概念。
包含控制平面和数据平面的完整平台架构

​
工作流程

如果您想自托管 LangSmith 以进行可观测性、评估和代理部署，请按照以下步骤操作：
1

安装自托管 LangSmith

您必须已经在您的云中安装了一个自托管 LangSmith 实例，并拥有一个 Kubernetes 集群（控制平面和数据平面必需）。
2

在本地测试您的图

使用 langgraph-cli 或 Studio 在本地测试您的图。
3

启用 LangSmith 部署

按照设置指南在您的 LangSmith 实例上启用 LangSmith 部署。

​
独立服务器

独立服务器选项是运行 LangSmith 最轻量级和最灵活的方式。与其他模型不同，您只需管理一个简化的 ，该平面由代理服务器及其所需的后端服务（PostgreSQL、Redis 等）组成。 这包括：
组件职责运行位置由谁管理
控制平面不适用不适用不适用
数据平面
  • 代理服务器
  • Postgres、Redis 等
您的云您
此选项让您完全控制扩展、部署和 CI/CD 流水线，同时仍允许选择性地与 LangSmith 集成以进行追踪和评估。
不要在无服务器环境中运行独立服务器。缩容到零可能导致任务丢失，扩容将无法可靠工作。
独立服务器架构

​
工作流程

  1. 使用 langgraph-cli 或 Studio 在本地定义和测试您的图
  2. 将您的代理打包为 Docker 镜像
  3. 将代理服务器部署到您选择的计算平台（Kubernetes、Docker、虚拟机）
  4. 可选地，配置 LangSmith API 密钥和端点，以便服务器将追踪和评估报告回 LangSmith（自托管或 SaaS）

​
支持的计算平台

  • Kubernetes：使用 LangSmith Helm Chart 在 Kubernetes 集群中运行代理服务器。这是生产级部署的推荐选项。
  • Docker：在任何支持 Docker 的计算平台（本地开发机、虚拟机、ECS 等）上运行。这最适合开发或小规模工作负载。

​
设置指南

要设置代理服务器，请参阅应用程序部署部分中的操作指南。
通过 MCP 将这些文档连接到 Claude、VSCode 等，以获取实时答案。
在 GitHub 上编辑此页面 或 提交问题。