Skip to main content
Human-in-the-Loop (HITL) 中间件 允许您在 agent 工具调用中添加人工监督。 当模型提出的操作可能需要审查时——例如,写入文件或执行 SQL——中间件可以暂停执行并等待决定。 它通过根据可配置的策略检查每个工具调用来实现这一点。如果需要干预,中间件会发出一个 中断,从而停止执行。图状态使用 LangGraph 的 持久层 保存,因此执行可以安全地暂停并在稍后恢复。 然后,人工决策决定接下来会发生什么:操作可以原样批准 (approve),在运行前修改 (edit),或拒绝并提供反馈 (reject)。

中断决策类型

中间件 定义了三种内置的人工响应中断的方式:
决策类型描述示例用例
approve操作按原样批准并执行,不进行任何更改。完全按原样发送电子邮件草稿
✏️ edit工具调用在修改后执行。发送电子邮件前更改收件人
reject工具调用被拒绝,并在对话中添加解释。拒绝电子邮件草稿并解释如何重写
每个工具可用的决策类型取决于您在 interrupt_on 中配置的策略。 当多个工具调用同时暂停时,每个操作都需要单独的决策。 决策必须按照中断请求中操作出现的顺序提供。
编辑 工具参数时,请谨慎更改。对原始参数的重大修改可能会导致模型重新评估其方法,并可能多次执行工具或采取意外行动。

配置中断

要使用 HITL,请在创建 agent 时将 中间件 添加到 agent 的 middleware 列表中。 您可以使用工具操作与每个操作允许的决策类型的映射来配置它。当工具调用与映射中的操作匹配时,中间件将中断执行。
import { createAgent, humanInTheLoopMiddleware } from "langchain";
import { MemorySaver } from "@langchain/langgraph";

const agent = createAgent({
    model: "gpt-4.1",
    tools: [writeFileTool, executeSQLTool, readDataTool],
    middleware: [
        humanInTheLoopMiddleware({
            interruptOn: {
                write_file: true, // All decisions (approve, edit, reject) allowed
                execute_sql: {
                    allowedDecisions: ["approve", "reject"],
                    // No editing allowed
                    description: "🚨 SQL execution requires DBA approval",
                },
                // Safe operation, no approval needed
                read_data: false,
            },
            // Prefix for interrupt messages - combined with tool name and args to form the full message
            // e.g., "Tool execution pending approval: execute_sql with query='DELETE FROM...'"
            // Individual tools can override this by specifying a "description" in their interrupt config
            descriptionPrefix: "Tool execution pending approval",
        }),
    ],
    // Human-in-the-loop requires checkpointing to handle interrupts.
    // In production, use a persistent checkpointer like AsyncPostgresSaver.
    checkpointer: new MemorySaver(),
});
您必须配置一个检查点保存器 (checkpointer) 以在中断期间持久化图状态。 在生产环境中,请使用像 AsyncPostgresSaver 这样的持久化检查点保存器。对于测试或原型设计,请使用 InMemorySaver调用 agent 时,传递一个包含 thread IDconfig,以将执行与对话线程关联。 有关详细信息,请参阅 LangGraph 中断文档
interruptOn
object
required
工具名称到批准配置的映射
工具批准配置选项:
allowAccept
boolean
default:"false"
是否允许批准
allowEdit
boolean
default:"false"
是否允许编辑
allowRespond
boolean
default:"false"
是否允许响应/拒绝

响应中断

当您调用 agent 时,它会一直运行直到完成或引发中断。当工具调用与您在 interrupt_on 中配置的策略匹配时,将触发中断。在这种情况下,调用结果将包含一个 __interrupt__ 字段,其中包含需要审查的操作。然后,您可以将这些操作呈现给审查者,并在提供决策后恢复执行。
import { HumanMessage } from "@langchain/core/messages";
import { Command } from "@langchain/langgraph";

// You must provide a thread ID to associate the execution with a conversation thread,
// so the conversation can be paused and resumed (as is needed for human review).
const config = { configurable: { thread_id: "some_id" } };

// Run the graph until the interrupt is hit.
const result = await agent.invoke(
    {
        messages: [new HumanMessage("Delete old records from the database")],
    },
    config 
);


// The interrupt contains the full HITL request with action_requests and review_configs
console.log(result.__interrupt__);
// > [
// >    Interrupt(
// >       value: {
// >          action_requests: [
// >             {
// >                name: 'execute_sql',
// >                arguments: { query: 'DELETE FROM records WHERE created_at < NOW() - INTERVAL '30 days';' },
// >                description: 'Tool execution pending approval\n\nTool: execute_sql\nArgs: {...}'
// >             }
// >          ],
// >          review_configs: [
// >             {
// >                action_name: 'execute_sql',
// >                allowed_decisions: ['approve', 'reject']
// >             }
// >          ]
// >       }
// >    )
// > ]

// Resume with approval decision
await agent.invoke(
    new Command({
        resume: { decisions: [{ type: "approve" }] }, // or "reject"
    }),
    config // Same thread ID to resume the paused conversation
);

决策类型

使用 approve 按原样批准工具调用并在不更改的情况下执行它。
await agent.invoke(
    new Command({
        // Decisions are provided as a list, one per action under review.
        // The order of decisions must match the order of actions
        // listed in the `__interrupt__` request.
        resume: {
            decisions: [
                {
                    type: "approve",
                }
            ]
        }
    }),
    config  // Same thread ID to resume the paused conversation
);

人机介入流式传输

您可以使用 stream() 代替 invoke() 来获取实时更新,同时 agent 运行并处理中断。使用 stream_mode=['updates', 'messages'] 来流式传输 agent 进度和 LLM token。
import { Command } from "@langchain/langgraph";

const config = { configurable: { thread_id: "some_id" } };

// Stream agent progress and LLM tokens until interrupt
for await (const [mode, chunk] of await agent.stream(
    { messages: [{ role: "user", content: "Delete old records from the database" }] },
    { ...config, streamMode: ["updates", "messages"] }
)) {
    if (mode === "messages") {
        // LLM token
        const [token, metadata] = chunk;
        if (token.content) {
            process.stdout.write(token.content);
        }
    } else if (mode === "updates") {
        // Check for interrupt
        if ("__interrupt__" in chunk) {
            console.log(`\n\nInterrupt: ${JSON.stringify(chunk.__interrupt__)}`);
        }
    }
}

// Resume with streaming after human decision
for await (const [mode, chunk] of await agent.stream(
    new Command({ resume: { decisions: [{ type: "approve" }] } }),
    { ...config, streamMode: ["updates", "messages"] }
)) {
    if (mode === "messages") {
        const [token, metadata] = chunk;
        if (token.content) {
            process.stdout.write(token.content);
        }
    }
}
有关流模式的更多详细信息,请参阅 流式传输 (Streaming) 指南。

执行生命周期

中间件定义了一个 after_model 钩子,它在模型生成响应之后但在任何工具调用执行之前运行:
  1. Agent 调用模型生成响应。
  2. 中间件检查响应中的工具调用。
  3. 如果任何调用需要人工输入,中间件构建一个包含 action_requestsreview_configsHITLRequest 并调用 中断
  4. Agent 等待人工决策。
  5. 基于 HITLResponse 决策,中间件执行已批准或编辑的调用,为拒绝的调用合成 ToolMessage,并恢复执行。

自定义 HITL 逻辑

对于更专业的工作流,您可以直接使用 中断 原语和 中间件 抽象来构建自定义 HITL 逻辑。 查看上面的 执行生命周期 以了解如何将中断集成到 agent 的操作中。