- 完全托管的基础设施:LangChain 处理所有基础设施、更新、扩展和维护。
- 从 GitHub 部署:连接您的仓库,只需点击几下即可部署。
- 自动化 CI/CD:构建过程由平台自动处理。
- LangSmith UI:完全访问可观测性、评估、部署管理和 Studio。

开始使用
要将您的第一个应用部署到云,请参阅云部署快速入门或参考综合设置指南。云架构与可扩展性
本节仅适用于 https://smith.langchain.com、https://eu.smith.langchain.com 和 https://aws.smith.langchain.com 上的云托管 LangSmith。有关自托管 LangSmith 解决方案的信息,请参阅自托管文档。
us-central1(爱荷华州)区域。
基于欧盟的 LangSmith 服务现已可用(截至 2024 年 7 月中旬),部署在 GCP 的
europe-west4(荷兰)区域。如果您对该区域的企业计划感兴趣,请联系我们的销售团队。截至 2026 年 4 月,LangSmith SaaS 可在 AWS 的
us-east-2(俄亥俄州)区域使用。区域存储
此表中的资源和服务存储在与注册 URL 对应的位置(美国 (GCP)、欧盟 (GCP) 或美国 (AWS))。云托管 LangSmith 使用 Supabase 进行身份验证/授权,使用 ClickHouse Cloud 作为数据仓库。
更多信息请参阅区域常见问题。
与区域无关的存储
此处列出的数据仅存储在美国:- 通过 Stripe 和 Metronome 处理的支付和账单信息
GCP 服务
以下内容适用于 GCP 上的美国和欧盟 SaaS 区域。 LangSmith 由以下服务组成,全部部署在 Google Kubernetes Engine (GKE) 上:- LangSmith 前端:提供 LangSmith UI 服务。
- LangSmith 后端:提供 LangSmith API 服务。
- LangSmith 平台后端:处理身份验证和其他高容量任务。(内部服务)
- LangSmith Playground:处理将请求转发到各种 LLM 提供商以实现 Playground 功能。
- LangSmith 队列:处理异步任务。(内部服务)
- Google Cloud Storage (GCS) 用于存储运行输入和输出。
- Google Cloud SQL PostgreSQL 用于事务性工作负载。
- Google Cloud Memorystore for Redis 用于队列和缓存。
- GCP 上的 Clickhouse Cloud 用于跟踪摄取和分析。我们的服务通过私有端点连接到托管在同一 GCP 区域的 Clickhouse Cloud。
- Google Cloud Load Balancer 用于将流量路由到 LangSmith 服务。
- Google Cloud CDN 用于缓存静态资源。
- Google Cloud Armor 用于安全和速率限制。有关我们实施的速率限制的更多信息,请参阅速率限制。
AWS 服务
以下内容适用于us-east-2(俄亥俄州)中的美国 (AWS) SaaS 区域。相同的逻辑 LangSmith 组件运行在 Amazon EKS 上,而不是 GKE。
LangSmith 由以下服务组成,全部部署在 Amazon EKS 上:
- LangSmith 前端:提供 LangSmith UI 服务。
- LangSmith 后端:提供 LangSmith API 服务。
- LangSmith 平台后端:处理身份验证和其他高容量任务。(内部服务)
- LangSmith Playground:处理将请求转发到各种 LLM 提供商以实现 Playground 功能。
- LangSmith 队列:处理异步任务。(内部服务)
- Amazon S3 用于存储运行输入和输出。
- Amazon RDS for PostgreSQL 用于事务性工作负载。
- Amazon ElastiCache for Redis 用于队列和缓存。
- 通过 AWS PrivateLink 在
us-east-2上的 ClickHouse Cloud 用于跟踪摄取和分析,与上面的区域存储表一致。
- Elastic Load Balancing (Network Load Balancers) 和 Istio ingress 用于将流量路由到 LangSmith 服务。文档化的 API 速率限制在 Istio ingress 网关处执行。详情请参阅速率限制。
- Amazon CloudFront 用于缓存静态资源(包括 Web UI 主机名
aws.smith.langchain.com)。 - CloudFront 上的 AWS WAF 用于边缘的托管规则组(例如,AWS Managed Rules 通用保护和 Bot 控制)。

IP 地址白名单
从 LangChain SaaS 出站
所有离开 LangSmith 服务的流量都将通过 NAT 网关路由。所有流量都将显示为源自以下 IP 地址:
如果连接到您自己的 AzureOpenAI 服务或 Playground 或在线评估可能需要的其他端点,将这些 IP 地址加入白名单可能会有所帮助。
进入 LangChain SaaS 的入站流量
LangChain 端点映射到以下静态 IP 地址,用于终止在我们 GCP 负载均衡器(美国/欧盟)上的流量,或者对于美国 (AWS),终止在us-east-2 中的网络负载均衡器上的流量(API 和网关主机名):
您可能需要将这些地址加入白名单,以允许来自您私有网络的流量访问 LangSmith SaaS 端点(
api.smith.langchain.com、smith.langchain.com、beacon.langchain.com、eu.api.smith.langchain.com、eu.smith.langchain.com、eu.beacon.langchain.com、aws.api.smith.langchain.com、aws.smith.langchain.com)。
私有连接(企业版)
仅限企业版。 私有连接仅对企业客户开放。请联系您的客户代表或 sales@langchain.dev 以启用此功能。
AWS PrivateLink
AWS 上的客户可以通过 AWS PrivateLink 连接到 LangSmith,提供从任何 VPC 的私有连接。原生支持跨区域连接。端点服务名称
设置
1. 请求访问权限: 联系您的客户代表或 sales@langchain.dev,提供您的 AWS 账户 ID。LangChain 会将您的账户添加到端点服务的允许主体列表中。 2. 在您的 AWS 账户中创建接口 VPC 端点。 附加一个安全组,允许来自您的 VPC CIDR(或需要访问 LangSmith 的实例)的 TCP 443 入站流量:pendingAcceptance 变为 available。接受后请等待几分钟,让更改完全传播,然后再测试连接。
配置 DNS
配置 DNS,使aws.api.smith.langchain.com 在您的 VPC 内解析为您的 VPC 端点的私有 DNS 名称。您可以使用任何私有 DNS 解决方案——Route 53 私有托管区域、企业 DNS 解析器或任何可从您的 VPC 访问的 DNS 服务器。
首先,获取您的端点的 DNS 名称:
aws.api.smith.langchain.com 创建一个指向该 DNS 名称的 CNAME 记录。以下是使用 Route 53 的示例:
验证连接
从您 VPC 中的 EC2 实例或容器:GCP Private Service Connect
GCP 上的企业客户可以通过 Private Service Connect (PSC) 连接到 LangSmith,提供私有连接,而无需将流量暴露到公共互联网。服务附件 URI
使用以下服务附件 URI 在您的 VPC 中创建 PSC 端点:PSC 域名
设置完成后,使用以下域名通过您的 PSC 连接访问 LangSmith:设置
请求访问权限: 联系您的客户代表或 sales@langchain.dev,提供您的 GCP 项目 ID。LangChain 会将您的项目添加到服务附件的允许消费者列表中。 获得访问权限后,使用 gcloud CLI 或 Terraform 创建 PSC 端点并配置 DNS。创建 PSC 端点
在您的 VPC 中创建一个指向服务附件的转发规则:配置 DNS
在您的 VPC 中创建一个私有 DNS 区域,并添加一个指向 PSC 端点 IP 的 A 记录:验证连接
从您 VPC 中的虚拟机:API 速率限制
LangSmith 对 API 端点实施速率限制,以确保服务稳定性和公平使用。下表显示了美国和欧盟区域不同端点的速率限制。请注意:- 速率限制表示为
count / interval,其中 count 是在间隔(以秒为单位)内允许的请求数量。例如,2000 / 10表示每 10 秒 2000 个请求。 - 当端点列中未指定 HTTP 方法时,速率限制适用于该端点的所有 HTTP 方法。
- 当列出了特定方法(例如
POST、GET)时,速率限制仅适用于该方法。
速率限制类别
- 高吞吐量:用于核心操作(如身份验证、元数据和反馈)的通用高容量端点。
- 仓库:仓库和提示管理操作。
- 运行摄取:用于可观测性的单个跟踪/运行摄取端点。
- 图表:图表生成和可视化端点。
- 多部分摄取:通过多部分上传进行批量运行摄取,用于高容量跟踪。
- 运行查询 (API):基于 API 密钥的运行查询操作,对复杂查询有更严格的限制。
- 运行查询 (用户):基于用户的运行查询操作,为交互式使用提供更高的限制。
- 生成:AI 驱动的代码和内容生成端点(限制以防止滥用)。
- 提交:提示版本控制和提交操作。
- 删除:会话删除和工作流触发操作。
- 运行查找:通过 UUID 检索特定运行。
- 示例:获取数据集示例用于少样本提示。
- 默认 (API 密钥):未匹配特定模式的已认证 API 请求的后备速率限制。
- 默认 (用户):未匹配特定模式的已认证用户请求的后备速率限制。
- 公共下载:用于共享资源的高容量公共下载端点。
- 统计:运行统计和分析端点(适用特定区域限制)。
- 公共 (默认):未认证公共访问的默认速率限制。
将这些文档通过 MCP 连接到 Claude、VSCode 等,以获取实时答案。


