Skip to main content
人机回环(Human-in-the-Loop, HITL)中间件 允许您为代理工具调用添加人工监督。 当模型提出可能需要审查的操作时——例如写入文件或执行 SQL——中间件可以暂停执行并等待决策。 它通过根据可配置的策略检查每个工具调用来实现这一点。如果需要干预,中间件会发出一个中断来停止执行。图状态使用 LangGraph 的持久化层保存,因此执行可以安全暂停并在稍后恢复。 然后,人类决策决定接下来发生什么:操作可以按原样批准(approve)、在运行前修改(edit)或拒绝并提供反馈(reject)。

中断决策类型

中间件 定义了三种内置方式,供人类响应中断:
决策类型描述示例用例
approve操作按原样批准并执行,无需更改。按原样发送电子邮件草稿
✏️ edit工具调用在修改后执行。在发送电子邮件前更改收件人
reject工具调用被拒绝,并向对话中添加解释。拒绝电子邮件草稿并解释如何重写它
每个工具的可用决策类型取决于您在 interrupt_on 中配置的策略。 当多个工具调用同时暂停时,每个操作都需要单独的决策。 决策必须按照中断请求中操作出现的顺序提供。
编辑工具参数时,请保守地进行更改。对原始参数的重大修改可能导致模型重新评估其方法,并可能多次执行工具或采取意外操作。

配置中断

要使用 HITL,请在创建代理时将中间件 添加到代理的 middleware 列表中。 您需要配置一个映射,将工具操作映射到每个操作允许的决策类型。当中间件检测到工具调用与映射中的操作匹配时,将中断执行。
from langchain.agents import create_agent
from langchain.agents.middleware import HumanInTheLoopMiddleware 
from langgraph.checkpoint.memory import InMemorySaver 


agent = create_agent(
    model="gpt-4.1",
    tools=[write_file_tool, execute_sql_tool, read_data_tool],
    middleware=[
        HumanInTheLoopMiddleware(
            interrupt_on={
                "write_file": True,  # 允许所有决策 (approve, edit, reject)
                "execute_sql": {"allowed_decisions": ["approve", "reject"]},  # 不允许编辑
                # 安全操作,无需批准
                "read_data": False,
            },
            # 中断消息的前缀 - 与工具名称和参数组合形成完整消息
            # 例如,"工具执行待批准:execute_sql,查询='DELETE FROM...'"
            # 单个工具可以通过在其中断配置中指定 "description" 来覆盖此设置
            description_prefix="工具执行待批准",
        ),
    ],
    # 人机回环需要检查点来处理中断。
    # 在生产环境中,使用持久化检查点,如 AsyncPostgresSaver。
    checkpointer=InMemorySaver(),
)
您必须配置一个检查点器以在中断之间持久化图状态。 在生产环境中,使用持久化检查点器,如 AsyncPostgresSaver。对于测试或原型设计,使用 InMemorySaver调用代理时,传递一个包含线程 IDconfig,以将执行与对话线程关联。 有关详细信息,请参阅 LangGraph 中断文档
interrupt_on
dict
required
工具名称到批准配置的映射。值可以是 True(使用默认配置中断)、False(自动批准)或 InterruptOnConfig 对象。
description_prefix
string
default:"Tool execution requires approval"
操作请求描述的前缀
InterruptOnConfig 选项:
allowed_decisions
list[string]
允许的决策列表:'approve''edit''reject'
description
string | callable
用于自定义描述的静态字符串或可调用函数

响应中断

调用代理时,它会运行直到完成或引发中断。当中间件检测到工具调用与您在 interrupt_on 中配置的策略匹配时,会触发中断。使用 version="v2" 时,结果是一个带有 interrupts 属性的 GraphOutput,其中包含需要审查的操作。然后,您可以将这些操作呈现给审查者,并在提供决策后恢复执行。
from langgraph.types import Command

# 人机回环利用 LangGraph 的持久化层。
# 您必须提供一个线程 ID 以将执行与对话线程关联,
# 以便对话可以暂停和恢复(这是人工审查所需的)。
config = {"configurable": {"thread_id": "some_id"}}
# 运行图直到命中中断。
result = agent.invoke(
    {
        "messages": [
            {
                "role": "user",
                "content": "从数据库中删除旧记录",
            }
        ]
    },
    config=config,
    version="v2",
)

# result 是一个带有 .value 和 .interrupts 的 GraphOutput
print(result.interrupts)
# > (
# >    Interrupt(
# >       value={
# >          'action_requests': [
# >             {
# >                'name': 'execute_sql',
# >                'arguments': {'query': 'DELETE FROM records WHERE created_at < NOW() - INTERVAL \'30 days\';'},
# >                'description': '工具执行待批准\n\n工具:execute_sql\n参数:{...}'
# >             }
# >          ],
# >          'review_configs': [
# >             {
# >                'action_name': 'execute_sql',
# >                'allowed_decisions': ['approve', 'reject']
# >             }
# >          ]
# >       }
# >    ),
# > )


# 使用批准决策恢复
agent.invoke(
    Command(
        resume={"decisions": [{"type": "approve"}]}  # 或 "reject"
    ),
    config=config, # 相同的线程 ID 以恢复暂停的对话
    version="v2",
)

决策类型

使用 approve 来批准工具调用并按原样执行,无需更改。
agent.invoke(
    Command(
        # 决策以列表形式提供,每个审查中的操作一个。
        # 决策的顺序必须与中断请求中操作的顺序
        # 匹配。
        resume={
            "decisions": [
                {
                    "type": "approve",
                }
            ]
        }
    ),
    config=config,  # 相同的线程 ID 以恢复暂停的对话
    version="v2",
)

使用人机回环进行流式传输

您可以使用 stream() 代替 invoke(),以便在代理运行和处理中断时获取实时更新。使用 stream_mode=['updates', 'messages']version="v2" 来以统一的 v2 格式流式传输代理进度和 LLM 令牌。
from langgraph.types import Command

config = {"configurable": {"thread_id": "some_id"}}

# 流式传输代理进度和 LLM 令牌,直到中断
for chunk in agent.stream(
    {"messages": [{"role": "user", "content": "从数据库中删除旧记录"}]},
    config=config,
    stream_mode=["updates", "messages"],
    version="v2",
):
    if chunk["type"] == "messages":
        # LLM 令牌
        token, metadata = chunk["data"]
        if token.content:
            print(token.content, end="", flush=True)
    elif chunk["type"] == "updates":
        # 检查中断
        if "__interrupt__" in chunk["data"]:
            print(f"\n\n中断: {chunk['data']['__interrupt__']}")

# 人类决策后使用流式传输恢复
for chunk in agent.stream(
    Command(resume={"decisions": [{"type": "approve"}]}),
    config=config,
    stream_mode=["updates", "messages"],
    version="v2",
):
    if chunk["type"] == "messages":
        token, metadata = chunk["data"]
        if token.content:
            print(token.content, end="", flush=True)
有关流式模式的更多详细信息,请参阅流式传输指南。

执行生命周期

中间件定义了一个 after_model 钩子,该钩子在模型生成响应后但在任何工具调用执行前运行:
  1. 代理调用模型以生成响应。
  2. 中间件检查响应中的工具调用。
  3. 如果任何调用需要人工输入,中间件会构建一个带有 action_requestsreview_configsHITLRequest,并调用中断
  4. 代理等待人类决策。
  5. 基于 HITLResponse 决策,中间件执行批准或编辑的调用,为拒绝的调用合成ToolMessage,并恢复执行。

自定义 HITL 逻辑

对于更专业的工作流,您可以直接使用中断 原语和中间件 抽象构建自定义 HITL 逻辑。 查看上面的执行生命周期以了解如何将中断集成到代理操作中。