> ## Documentation Index
> Fetch the complete documentation index at: https://cndoc-langchain.site/llms.txt
> Use this file to discover all available pages before exploring further.

# 自托管 LangSmith

<Note>
  **重要提示**<br />
  自托管 LangSmith 是企业版计划的附加组件，专为规模最大、对安全性要求最高的客户设计。更多详情，请参阅[定价](https://www.langchain.com/pricing)。如果您希望获取许可证密钥以在您的环境中试用 LangSmith，请[联系我们的销售团队](https://www.langchain.com/contact-sales)。
</Note>

LangSmith 支持不同的自托管配置，具体取决于您的规模、安全性和基础设施需求。

您可以使用 LangSmith 进行[可观测性](/langsmith/observability)和[评估](/langsmith/evaluation)，而无需部署代理。或者，您可以设置**完整的自托管平台**，用于可观测性、评估和[代理部署](/langsmith/deployment)。此外，您也可以直接部署代理，而无需使用[控制平面](/langsmith/control-plane)。

<Tip>
  **有关在 AWS、GCP 或 Azure 上自托管 LangSmith 的分步设置说明**，请参阅我们的云架构指南：[AWS](/langsmith/aws-self-hosted)、[GCP](/langsmith/gcp-self-hosted) 或 [Azure](/langsmith/azure-self-hosted)。
</Tip>

本页概述了每种自托管模型：

<Columns cols={1}>
  <Card title="LangSmith 可观测性与评估" icon="chart-line" href="#self-host-langsmith-observability-and-evaluation">
    托管一个包含 UI 和 API 中可观测性、追踪和评估功能的 LangSmith 实例。最适合希望进行自托管监控和评估，但不部署代理的团队。
  </Card>

  <Card title="LangSmith 可观测性、评估与部署" icon="stack-2" href="#enable-langsmith-deployment">
    支持通过控制平面将图部署到代理服务器。控制平面和数据平面提供完整的 LangSmith 平台，用于运行和监控代理。这包括可观测性、评估和部署。
  </Card>

  <Card title="独立服务器" icon="server" href="#standalone-server">
    直接托管代理服务器，无需控制平面 UI。这是一个轻量级选项，用于将一个或几个代理作为独立服务运行，并完全控制扩展和集成。
  </Card>
</Columns>

| 模型             | 包含内容                                                                                                                        | 最适合                                                                                           | 方法                                                                           |
| -------------- | --------------------------------------------------------------------------------------------------------------------------- | --------------------------------------------------------------------------------------------- | ---------------------------------------------------------------------------- |
| **可观测性与评估**    | <ul><li>LangSmith (UI + API)</li><li>后端服务（队列、Playground、ACE）</li><li>数据存储：PostgreSQL、Redis、ClickHouse、可选的 Blob 存储</li></ul> | <ul><li>需要自托管可观测性、追踪和评估的团队</li><li>运行 LangSmith 但不部署代理/图</li></ul>                            | <ul><li>Kubernetes + Helm（生产环境）</li></ul>                                    |
| **可观测性、评估与部署** | <ul><li>可观测性与评估的所有内容</li><li>控制平面（部署 UI、版本管理、Studio）</li><li>数据平面（代理服务器 Pod）</li><li>用于编排的 Kubernetes Operator</li></ul>    | <ul><li>需要私有 LangChain Cloud 的企业团队</li><li>用于管理多个代理/图的集中式 UI/API</li><li>集成的可观测性和编排</li></ul> | <ul><li>Kubernetes 与 Helm（必需）</li><li>运行在 EKS、GKE、AKS 或自管理集群上</li></ul>      |
| **独立服务器**      | <ul><li>代理服务器容器</li><li>需要 PostgreSQL + Redis（共享或专用）</li><li>可选的 LangSmith 集成用于追踪</li></ul>                                 | <ul><li>轻量级部署一个或几个代理</li><li>将代理服务器集成为微服务</li><li>希望自行管理扩展和 CI/CD 的团队</li></ul>               | <ul><li>Kubernetes + Helm（生产环境）</li><li>任何容器运行时或虚拟机（ECS、EC2、ACI 等）</li></ul> |

<Note>
  有关设置指南，请参阅：

  * [启用 LangSmith 部署](/langsmith/deploy-self-hosted-full-platform)
  * [部署独立服务器](/langsmith/deploy-standalone-server)

  支持的计算平台：[Kubernetes](https://kubernetes.io/)（用于 LangSmith 部署），任何计算平台（用于独立服务器）
</Note>

<a id="langsmith" />

## 自托管 LangSmith 可观测性与评估

托管一个包含 UI 和 API 中可观测性、追踪和评估功能的 LangSmith 实例，但**不具备**通过控制平面部署代理的能力。

这包括：

**服务：**

* LangSmith 前端 UI
* LangSmith 后端 API
* LangSmith 平台后端
* LangSmith Playground
* LangSmith 队列
* LangSmith ACE（任意代码执行）后端

**存储服务：**

* ClickHouse（追踪和反馈数据）
* PostgreSQL（操作数据）
* Redis（队列和缓存）
* Blob 存储（可选，但生产环境推荐使用）

<img className="block dark:hidden" src="https://mintcdn.com/other-405835d4/U_V3brHb6y_62TSF/langsmith/images/cloud-arch-light.png?fit=max&auto=format&n=U_V3brHb6y_62TSF&q=85&s=495f74a92f9d116e5d8b98b5d25142f7" alt="显示服务和数据存储的 LangSmith 架构" width="2210" height="1463" data-path="langsmith/images/cloud-arch-light.png" />

<img className="hidden dark:block" src="https://mintcdn.com/other-405835d4/U_V3brHb6y_62TSF/langsmith/images/cloud-arch-dark.png?fit=max&auto=format&n=U_V3brHb6y_62TSF&q=85&s=100d0883e7e4b94972d12204a67e393c" alt="显示服务和数据存储的 LangSmith 架构" width="2210" height="1463" data-path="langsmith/images/cloud-arch-dark.png" />

要访问 LangSmith UI 并发送 API 请求，您需要暴露 [LangSmith 前端](#services) 服务。根据您的安装方法，这可以是负载均衡器或主机上暴露的端口。

### 服务

| 服务                                                                                    | 描述                                                                                    |
| ------------------------------------------------------------------------------------- | ------------------------------------------------------------------------------------- |
| <a id="langsmith-frontend" /> **LangSmith 前端**                                        | 前端使用 Nginx 提供 LangSmith UI 并将 API 请求路由到其他服务器。这作为应用程序的入口点，是唯一必须向用户暴露的组件。               |
| <a id="langsmith-backend" /> **LangSmith 后端**                                         | 后端是 CRUD API 请求的主要入口点，并处理应用程序的大部分业务逻辑。这包括处理来自前端和 SDK 的请求、准备追踪数据以供摄取，以及支持 Hub API。     |
| <a id="langsmith-queue" /> **LangSmith 队列**                                           | 队列处理传入的追踪和反馈，以确保它们被异步摄取并持久化到追踪和反馈数据存储中，处理数据完整性检查并确保成功插入数据存储，在数据库错误或暂时无法连接数据库等情况下处理重试。 |
| <a id="langsmith-platform-backend" /> **LangSmith 平台后端**                              | 平台后端是另一个关键服务，主要处理身份验证、运行摄取和其他高容量任务。                                                   |
| <a id="langsmith-playground" /> **LangSmith Playground**                              | Playground 是一个服务，负责将请求转发到各种 LLM API 以支持 Playground 功能。这也可以用于连接您自己的自定义模型服务器。           |
| <a id="langsmith-ace-arbitrary-code-execution-backend" /> **LangSmith ACE（任意代码执行）后端** | ACE 后端是一个服务，负责在安全环境中执行任意代码。这用于支持在 LangSmith 中运行自定义代码。                                 |

### 存储服务

<Note>
  LangSmith 默认会捆绑所有存储服务。您可以将其配置为使用所有存储服务的外部版本。在生产环境中，我们**强烈建议使用外部存储服务**。
</Note>

| 服务                                   | 描述                                                                                                                                                                                                                                                                                                                                                                                          |
| ------------------------------------ | ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| <a id="clickhouse" /> **ClickHouse** | [ClickHouse](https://clickhouse.com/docs/en/intro) 是一个高性能、面向列的 SQL 数据库管理系统（DBMS），用于在线分析处理（OLAP）。<br /><br />LangSmith 使用 ClickHouse 作为追踪和反馈（高容量数据）的主要数据存储。<br /><br />💡 [连接到外部 ClickHouse](/langsmith/self-host-external-clickhouse)                                                                                                                                                       |
| <a id="postgresql" /> **PostgreSQL** | [PostgreSQL](https://www.postgresql.org/about/) 是一个强大的开源对象关系数据库系统，它使用并扩展了 SQL 语言，并结合了许多安全存储和扩展最复杂数据工作负载的功能。<br /><br />LangSmith 使用 PostgreSQL 作为事务性工作负载和操作数据（除追踪和反馈外几乎所有内容）的主要数据存储。<br /><br />💡 [连接到外部 PostgreSQL](/langsmith/self-host-external-postgres) - AWS RDS、GCP Cloud SQL、Azure Database                                                                                        |
| <a id="redis" /> **Redis / Valkey**  | [Redis](https://github.com/redis/redis) 是一个强大的内存中键值数据库，可持久化到磁盘。通过将数据保存在内存中，Redis 为缓存等操作提供了高性能。<br /><br />LangSmith 使用 Redis 来支持队列和缓存操作。[Valkey](https://valkey.io/) 也作为 Redis 的直接替代品得到官方支持。<br /><br />💡 [连接到外部 Redis 或 Valkey](/langsmith/self-host-external-redis) - AWS ElastiCache、GCP Memorystore、Azure Cache                                                                        |
| <a id="blob-storage" /> **Blob 存储**  | LangSmith 支持多种 Blob 存储提供商，包括 [AWS S3](https://aws.amazon.com/s3/)、[Azure Blob Storage](https://azure.microsoft.com/en-us/services/storage/blobs/) 和 [Google Cloud Storage](https://cloud.google.com/storage)。<br /><br />LangSmith 使用 Blob 存储来存储大文件，例如追踪工件、反馈附件和其他大型数据对象。Blob 存储是可选的，但强烈推荐用于生产部署。<br /><br />💡 [启用 Blob 存储](/langsmith/self-host-blob-storage) - AWS S3、GCP GCS、Azure Blob |

要安装，请遵循 [Kubernetes 设置指南](/langsmith/kubernetes)。

## 启用 LangSmith 部署

**LangSmith 部署**是一个可选的附加组件，可以在您的 [LangSmith](#langsmith) 实例上启用。它非常适合希望拥有一个集中式、UI 驱动的平台来部署和管理多个代理和图的企业团队，所有基础设施、数据和编排完全由他们自己控制。

这包括 [LangSmith](#langsmith) 的所有内容，加上：

| 组件                                                        | 职责                                                                                             | 运行位置 | 由谁管理 |
| --------------------------------------------------------- | ---------------------------------------------------------------------------------------------- | ---- | ---- |
| <Tooltip tip="用于管理部署的 LangSmith UI 和 API。">控制平面</Tooltip> | <ul><li>用于创建部署和修订的 UI</li><li>用于部署管理的 API</li></ul>                                            | 您的云  | 您    |
| <Tooltip tip="您的代理服务器和代理执行的运行时环境。">数据平面</Tooltip>         | <ul><li>用于协调部署的 Operator/Listener</li><li>代理服务器（代理/图）</li><li>后端服务（Postgres、Redis 等）</li></ul> | 您的云  | 您    |

您完全在自己的基础设施内运行控制平面和数据平面。您负责配置和管理所有组件。

<Note>
  了解更多关于[控制平面](/langsmith/control-plane)和[数据平面](/langsmith/data-plane)架构概念。
</Note>

<img className="block dark:hidden" src="https://mintcdn.com/other-405835d4/G7l9ZuXFPY6DQG2A/langsmith/images/full-platform-with-deployment-light.png?fit=max&auto=format&n=G7l9ZuXFPY6DQG2A&q=85&s=828ff09d483b3e2c76c14b8bc0e5d81c" alt="包含控制平面和数据平面的完整平台架构" width="2138" height="2104" data-path="langsmith/images/full-platform-with-deployment-light.png" />

<img className="hidden dark:block" src="https://mintcdn.com/other-405835d4/G7l9ZuXFPY6DQG2A/langsmith/images/full-platform-with-deployment-dark.png?fit=max&auto=format&n=G7l9ZuXFPY6DQG2A&q=85&s=974a8cf72873b857dc04a4ffa40513d5" alt="包含控制平面和数据平面的完整平台架构" width="2138" height="2104" data-path="langsmith/images/full-platform-with-deployment-dark.png" />

### 工作流程

如果您想自托管 LangSmith 以进行可观测性、评估和代理部署，请按照以下步骤操作：

<Steps>
  <Step title="安装自托管 LangSmith">
    您必须已经在您的云中安装了一个[自托管 LangSmith 实例](#langsmith)，并拥有一个 Kubernetes 集群（控制平面和数据平面必需）。
  </Step>

  <Step title="在本地测试您的图">
    使用 `langgraph-cli` 或 [Studio](/langsmith/studio) 在本地测试您的图。
  </Step>

  <Step title="启用 LangSmith 部署">
    按照[设置指南](/langsmith/deploy-self-hosted-full-platform)在您的 LangSmith 实例上启用 LangSmith 部署。
  </Step>
</Steps>

## 独立服务器

**独立服务器**选项是运行 LangSmith 最轻量级和最灵活的方式。与其他模型不同，您只需管理一个简化的 <Tooltip tip="您的代理服务器和代理执行的运行时环境。">数据平面</Tooltip>，该平面由代理服务器及其所需的后端服务（PostgreSQL、Redis 等）组成。

这包括：

| 组件       | 职责                                               | 运行位置 | 由谁管理 |
| -------- | ------------------------------------------------ | ---- | ---- |
| **控制平面** | 不适用                                              | 不适用  | 不适用  |
| **数据平面** | <ul><li>代理服务器</li><li>Postgres、Redis 等</li></ul> | 您的云  | 您    |

此选项让您完全控制扩展、部署和 CI/CD 流水线，同时仍允许选择性地与 LangSmith 集成以进行追踪和评估。

<Warning>
  不要在无服务器环境中运行独立服务器。缩容到零可能导致任务丢失，扩容将无法可靠工作。
</Warning>

<img className="block dark:hidden" src="https://mintcdn.com/other-405835d4/ozzEsp14Hd9jH9J-/langsmith/images/standalone-server-light.png?fit=max&auto=format&n=ozzEsp14Hd9jH9J-&q=85&s=b92573d961ed17eb706bdb8f54b9b955" alt="独立服务器架构" width="752" height="821" data-path="langsmith/images/standalone-server-light.png" />

<img className="hidden dark:block" src="https://mintcdn.com/other-405835d4/ozzEsp14Hd9jH9J-/langsmith/images/standalone-server-dark.png?fit=max&auto=format&n=ozzEsp14Hd9jH9J-&q=85&s=e151b1c30b7bfcb2fff987787d7f5db9" alt="独立服务器架构" width="752" height="821" data-path="langsmith/images/standalone-server-dark.png" />

### 工作流程

1. 使用 `langgraph-cli` 或 [Studio](/langsmith/studio) 在本地定义和测试您的图
2. 将您的代理打包为 Docker 镜像
3. 将代理服务器部署到您选择的计算平台（Kubernetes、Docker、虚拟机）
4. 可选地，配置 LangSmith API 密钥和端点，以便服务器将追踪和评估报告回 LangSmith（自托管或 SaaS）

### 支持的计算平台

* **Kubernetes**：使用 LangSmith Helm Chart 在 Kubernetes 集群中运行代理服务器。这是生产级部署的推荐选项。

* **Docker**：在任何支持 Docker 的计算平台（本地开发机、虚拟机、ECS 等）上运行。这最适合开发或小规模工作负载。

### 设置指南

<Tip>
  要设置[代理服务器](/langsmith/agent-server)，请参阅应用程序部署部分中的[操作指南](/langsmith/deploy-standalone-server)。
</Tip>

***

<div className="source-links">
  <Callout icon="terminal-2">
    [通过 MCP 将这些文档](/use-these-docs)连接到 Claude、VSCode 等，以获取实时答案。
  </Callout>

  <Callout icon="edit">
    [在 GitHub 上编辑此页面](https://github.com/langchain-ai/docs/edit/main/src/langsmith/self-hosted.mdx) 或 [提交问题](https://github.com/langchain-ai/docs/issues/new/choose)。
  </Callout>
</div>