Skip to main content
当将代理部署到 LangSmith 时,您可以向服务器添加自定义中间件,以处理诸如记录请求指标、注入或检查标头以及执行安全策略等关注点,而无需修改核心服务器逻辑。这与添加自定义路由的方式相同。您只需提供自己的 Starlette 应用(包括 FastAPIFastHTML 和其他兼容应用)。 添加中间件可以让您在部署中全局拦截和修改请求与响应,无论它们是访问您的自定义端点还是内置的 LangSmith API。 以下是一个使用 FastAPI 的示例。
“仅限 Python” 我们目前仅支持在使用 langgraph-api>=0.0.26 的 Python 部署中使用自定义中间件。

创建应用

从一个现有的 LangSmith 应用程序开始,将以下中间件代码添加到您的 webapp.py 文件中。如果您是从头开始,可以使用 CLI 从模板创建一个新应用。
一旦您有了一个 LangGraph 项目,请添加以下应用代码:

配置 langgraph.json

将以下内容添加到您的 langgraph.json 配置文件中。确保路径指向您上面创建的 webapp.py 文件。

自定义中间件顺序

默认情况下,自定义中间件在认证逻辑之前运行。要让自定义中间件在认证_之后_运行,请在 http 配置中将 middleware_order 设置为 auth_first。(此自定义功能从 API 服务器 v0.4.35 及更高版本开始支持。)

启动服务器

在本地测试服务器:
现在,任何对您服务器的请求都将在其响应中包含自定义标头 X-Custom-Header

部署

您可以将此应用原样部署到云端或您的自托管平台。

后续步骤

既然您已经向部署中添加了自定义中间件,您可以使用类似的技术来添加自定义路由或定义自定义生命周期事件,以进一步自定义服务器的行为。