> ## Documentation Index > Fetch the complete documentation index at: https://cndoc-langchain.site/llms.txt > Use this file to discover all available pages before exploring further. # 流式处理 > 从智能体运行中流式传输实时更新 LangChain 实现了一个流式处理系统，用于呈现实时更新。 流式处理对于提升基于大语言模型构建的应用程序的响应速度至关重要。通过渐进式地显示输出，甚至在完整响应准备好之前，流式处理显著改善了用户体验（UX），尤其是在处理大语言模型的延迟时。 ## 概述 LangChain 的流式处理系统允许你将智能体运行的实时反馈呈现到你的应用程序中。 使用 LangChain 流式处理可以实现： * [**流式传输智能体进度**](#智能体进度)—在每个智能体步骤后获取状态更新。 * [**流式传输 LLM 标记**](#llm-标记)—在生成时流式传输语言模型标记。 * [**流式传输思考/推理标记**](#流式传输思考/-推理标记)—在生成时呈现模型推理过程。 * [**流式传输自定义更新**](#自定义更新)—发出用户定义的信号（例如，`"已获取 10/100 条记录"`）。 * [**流式传输多种模式**](#流式传输多种模式)—从 `updates`（智能体进度）、`messages`（LLM 标记 + 元数据）或 `custom`（任意用户数据）中选择。 有关更多端到端示例，请参阅下面的[常见模式](#常见模式)部分。 ## 支持的流式模式 将以下一个或多个流式模式作为列表传递给 [`stream`](https://reference.langchain.com/javascript/classes/_langchain_langgraph.index.CompiledStateGraph.html#stream) 方法： | 模式 | 描述 | | ---------- | ------------------------------------------------------------ | | `updates` | 在每个智能体步骤后流式传输状态更新。如果在同一步骤中进行了多次更新（例如，运行了多个节点），则这些更新将被分别流式传输。 | | `messages` | 从任何调用了 LLM 的图节点流式传输 `(token, metadata)` 元组。 | | `custom` | 使用流式写入器从图节点内部流式传输自定义数据。 | ## 智能体进度 要流式传输智能体进度，请使用带有 `streamMode: "updates"` 的 [`stream`](https://reference.langchain.com/javascript/classes/_langchain_langgraph.index.CompiledStateGraph.html#stream) 方法。这会在每个智能体步骤后发出一个事件。 例如，如果你有一个调用一次工具的智能体，你应该会看到以下更新： * **LLM 节点**：带有工具调用请求的 [`AIMessage`](https://reference.langchain.com/javascript/langchain-core/messages/AIMessage) * **工具节点**：带有执行结果的 [`ToolMessage`](https://reference.langchain.com/javascript/langchain-core/messages/ToolMessage) * **LLM 节点**：最终的 AI 响应 ```typescript theme={"theme":{"light":"catppuccin-latte","dark":"catppuccin-mocha"}} import z from "zod"; import { createAgent, tool } from "langchain"; const getWeather = tool( async ({ city }) => { return `The weather in ${city} is always sunny!`; }, { name: "get_weather", description: "Get weather for a given city.", schema: z.object({ city: z.string(), }), } ); const agent = createAgent({ model: "gpt-5-nano", tools: [getWeather], }); for await (const chunk of await agent.stream( { messages: [{ role: "user", content: "what is the weather in sf" }] }, { streamMode: "updates" } )) { const [step, content] = Object.entries(chunk)[0]; console.log(`step: ${step}`); console.log(`content: ${JSON.stringify(content, null, 2)}`); } /** * step: model * content: { * "messages": [ * { * "kwargs": { * // ... * "tool_calls": [ * { * "name": "get_weather", * "args": { * "city": "San Francisco" * }, * "type": "tool_call", * "id": "call_0qLS2Jp3MCmaKJ5MAYtr4jJd" * } * ], * // ... * } * } * ] * } * step: tools * content: { * "messages": [ * { * "kwargs": { * "content": "The weather in San Francisco is always sunny!", * "name": "get_weather", * // ... * } * } * ] * } * step: model * content: { * "messages": [ * { * "kwargs": { * "content": "The latest update says: The weather in San Francisco is always sunny!\n\nIf you'd like real-time details (current temperature, humidity, wind, and today's forecast), I can pull the latest data for you. Want me to fetch that?", * // ... * } * } * ] * } */ ``` ## LLM 标记 要流式传输 LLM 生成的标记，请使用 `streamMode: "messages"`： ```typescript theme={"theme":{"light":"catppuccin-latte","dark":"catppuccin-mocha"}} import z from "zod"; import { createAgent, tool } from "langchain"; const getWeather = tool( async ({ city }) => { return `The weather in ${city} is always sunny!`; }, { name: "get_weather", description: "Get weather for a given city.", schema: z.object({ city: z.string(), }), } ); const agent = createAgent({ model: "gpt-5.4-mini", tools: [getWeather], }); for await (const [token, metadata] of await agent.stream( { messages: [{ role: "user", content: "what is the weather in sf" }] }, { streamMode: "messages" } )) { console.log(`node: ${metadata.langgraph_node}`); console.log(`content: ${JSON.stringify(token.contentBlocks, null, 2)}`); } ``` ## 自定义更新 要流式传输工具执行时的更新，你可以使用配置中的 `writer` 参数。 ```typescript theme={"theme":{"light":"catppuccin-latte","dark":"catppuccin-mocha"}} import z from "zod"; import { tool, createAgent } from "langchain"; import { LangGraphRunnableConfig } from "@langchain/langgraph"; const getWeather = tool( async (input, config: LangGraphRunnableConfig) => { // 流式传输任意数据 config.writer?.(`正在查询城市数据: ${input.city}`); // ... 获取城市数据 config.writer?.(`已获取城市数据: ${input.city}`); return `${input.city} 总是阳光明媚！`; }, { name: "get_weather", description: "Get weather for a given city.", schema: z.object({ city: z.string().describe("要获取天气信息的城市。"), }), } ); const agent = createAgent({ model: "gpt-5.4-mini", tools: [getWeather], }); for await (const chunk of await agent.stream( { messages: [{ role: "user", content: "what is the weather in sf" }] }, { streamMode: "custom" } )) { console.log(chunk); } ``` ```shell title="输出" theme={"theme":{"light":"catppuccin-latte","dark":"catppuccin-mocha"}} 正在查询城市数据: San Francisco 已获取城市数据: San Francisco ``` 如果你将 `writer` 参数添加到你的工具中，那么在不提供 writer 函数的情况下，你将无法在 LangGraph 执行上下文之外调用该工具。 ## 流式传输多种模式 你可以通过将 streamMode 作为数组传递来指定多种流式模式：`streamMode: ["updates", "messages", "custom"]`。 流式输出将是 `[mode, chunk]` 元组，其中 `mode` 是流式模式的名称，`chunk` 是该模式流式传输的数据。 ```typescript theme={"theme":{"light":"catppuccin-latte","dark":"catppuccin-mocha"}} import z from "zod"; import { tool, createAgent } from "langchain"; import { LangGraphRunnableConfig } from "@langchain/langgraph"; const getWeather = tool( async (input, config: LangGraphRunnableConfig) => { // 流式传输任意数据 config.writer?.(`正在查询城市数据: ${input.city}`); // ... 获取城市数据 config.writer?.(`已获取城市数据: ${input.city}`); return `${input.city} 总是阳光明媚！`; }, { name: "get_weather", description: "Get weather for a given city.", schema: z.object({ city: z.string().describe("要获取天气信息的城市。"), }), } ); const agent = createAgent({ model: "gpt-5.4-mini", tools: [getWeather], }); for await (const [streamMode, chunk] of await agent.stream( { messages: [{ role: "user", content: "what is the weather in sf" }] }, { streamMode: ["updates", "messages", "custom"] } )) { console.log(`${streamMode}: ${JSON.stringify(chunk, null, 2)}`); } ``` ## 常见模式 以下是展示流式处理常见用例的示例。 ### 流式传输思考/推理标记 一些模型在生成最终答案之前会执行内部推理。你可以通过过滤 [标准内容块](/oss/javascript/langchain/messages#standard-content-blocks) 中 `type` 为 `"reasoning"` 的内容，在生成时流式传输这些思考/推理标记。 必须在模型上启用推理输出。 有关配置详情，请参阅 [推理部分](/oss/javascript/langchain/models#reasoning) 和你的[提供商集成页面](/oss/javascript/integrations/providers/overview)。 要快速检查模型的推理支持情况，请参阅 [models.dev](https://models.dev)。 要从智能体流式传输思考标记，请使用 `streamMode: "messages"` 并过滤推理内容块。当模型支持时，使用启用了扩展思考的模型实例（例如 `ChatAnthropic`）： ```ts theme={"theme":{"light":"catppuccin-latte","dark":"catppuccin-mocha"}} import z from "zod"; import { createAgent, tool } from "langchain"; import { ChatAnthropic } from "@langchain/anthropic"; const getWeather = tool( async ({ city }) => { return `${city}总是阳光明媚！`; }, { name: "get_weather", description: "获取给定城市的天气信息。", schema: z.object({ city: z.string() }), }, ); const agent = createAgent({ model: new ChatAnthropic({ model: "claude-sonnet-4-6", thinking: { type: "enabled", budget_tokens: 5000 }, }), tools: [getWeather], }); for await (const [token, metadata] of await agent.stream( { messages: [{ role: "user", content: "旧金山的天气怎么样？" }] }, { streamMode: "messages" }, // [!code highlight] )) { if (!token.contentBlocks) continue; const reasoning = token.contentBlocks.filter((b) => b.type === "reasoning"); const text = token.contentBlocks.filter((b) => b.type === "text"); if (reasoning.length) { process.stdout.write(`[思考中] ${reasoning[0].reasoning}`); } if (text.length) { process.stdout.write(text[0].text); } } ``` ```shell title="输出" theme={"theme":{"light":"catppuccin-latte","dark":"catppuccin-mocha"}} [thinking] The user is asking about the weather in San Francisco. I have a tool [thinking] available to get this information. Let me call the get_weather tool [thinking] with "San Francisco" as the city parameter. The weather in San Francisco is: It's always sunny in San Francisco! ``` 无论模型提供商如何，此方法都以相同的方式工作——LangChain 通过 [`content_blocks`](/oss/javascript/langchain/messages#standard-content-blocks) 属性将特定于提供商的格式（Anthropic `thinking` 块、OpenAI `reasoning` 摘要等）标准化为标准的 `"reasoning"` 内容块类型。 要直接从聊天模型（不使用智能体）流式传输推理标记，请参阅[使用聊天模型进行流式处理](/oss/javascript/langchain/models#reasoning)。 ## 禁用流式处理 在某些应用程序中，你可能需要禁用给定模型的单个标记的流式处理。这在以下情况下很有用： * 使用[多智能体](/oss/javascript/langchain/multi-agent)系统来控制哪些智能体流式传输其输出 * 混合使用支持流式处理和不支持流式处理的模型 * 部署到 [LangSmith](/langsmith/home) 并希望防止某些模型输出流式传输到客户端 在初始化模型时设置 `streaming: false`。 ```typescript theme={"theme":{"light":"catppuccin-latte","dark":"catppuccin-mocha"}} import { ChatOpenAI } from "@langchain/openai"; const model = new ChatOpenAI({ model: "gpt-5.4", streaming: false, // [!code highlight] }); ``` 部署到 LangSmith 时，对于任何不希望其输出流式传输到客户端的模型，请设置 `streaming=False`。这在部署前在你的图代码中进行配置。 并非所有聊天模型集成都支持 `streaming` 参数。如果你的模型不支持它，请改用 `disableStreaming: true`。此参数可通过基类在所有聊天模型上使用。 有关更多详细信息，请参阅 [LangGraph 流式处理指南](/oss/javascript/langgraph/streaming#disable-streaming-for-specific-chat-models)。 ## 相关内容 * [前端流式处理](/oss/javascript/langchain/streaming/frontend)—使用 `useStream` 构建 React UI，实现实时智能体交互 * [使用聊天模型进行流式处理](/oss/javascript/langchain/models#stream)—直接从聊天模型流式传输标记，无需使用智能体或图 * [使用聊天模型进行推理](/oss/javascript/langchain/models#reasoning)—配置和访问聊天模型的推理输出 * [标准内容块](/oss/javascript/langchain/messages#standard-content-blocks)—了解用于推理、文本和其他内容类型的标准化内容块格式 * [使用人机协作进行流式处理](/oss/javascript/langchain/human-in-the-loop#streaming-with-human-in-the-loop)—在处理用于人工审查的中断时流式传输智能体进度 * [LangGraph 流式处理](/oss/javascript/langgraph/streaming)—高级流式处理选项，包括 `values`、`debug` 模式和子图流式处理 ***
[将这些文档](/use-these-docs)通过 MCP 连接到 Claude、VSCode 等，以获取实时答案。 [在 GitHub 上编辑此页面](https://github.com/langchain-ai/docs/edit/main/src/oss/langchain/streaming.mdx) 或 [提交问题](https://github.com/langchain-ai/docs/issues/new/choose)。