中间件概述与常用内置中间件

中间件概述与常用内置中间件

2026年9月21日·#编程学习/langchain学习笔记LangChain/AI·6446 字 32 分钟
浏览量加载中...
AI 摘要

中间件是什么、为什么需要它,以及四个最常用的内置中间件:Summarization 压缩上下文、HumanInTheLoop 人工审批、PII 敏感信息保护、TodoList 任务规划(含假服务端实测结果)

create_agent 背后的四个组件#

组件比喻职责
模型(Model)大脑理解任务与决策推理
工具(Tools)手脚执行模型做不到的外部操作
系统提示词(System Prompt)角色告诉模型该怎么想、参考什么上下文
中间件(Middleware)中枢执行流程的关键节点进行拦截、控制和增强
from langchain.agents import create_agent
from langchain.agents.middleware import SummarizationMiddleware, HumanInTheLoopMiddleware
agent = create_agent(
model="deepseek-v4-flash",
tools=[...],
middleware=[
SummarizationMiddleware(...),
HumanInTheLoopMiddleware(...),
],
)

什么是中间件#

中间件就是 Agent 执行过程中的钩子函数,是 LangChain 1.x 的”王牌”工程化能力。

钩子(hook) 是框架在某些关键执行点暴露的扩展接口——你可以”挂上”自己的逻辑,在那些点上插入、修改或替换行为,而不必改动主流程代码。就像在流水线上某个环节设置一个”检查点”或”插入器”。

在 LangChain 的 Agent 执行循环里(“模型调用前”、“模型调用后”、“工具调用前后”)设置钩子,就能在不改 Agent 主体逻辑的前提下实现各种策略与治理。

图:添加中间件之后的 Agent 执行架构——六个 hook 分别挂在哪个节点上

为什么需要中间件#

没有中间件时,Agent 流程很直接:

用户输入 → 拼接提示词/消息 → 调用模型 → 如有需要调用工具 → 返回结果

图:没有中间件时的 Agent 执行流程

简单场景够用,但真实项目里很快会冒出一堆需求:

  • 想根据问题复杂度动态切换模型
  • 限制某些用户只能调用部分工具
  • 想在工具报错时自动重试或返回兜底结果
  • 想在模型调用前插入额外的系统提示
  • 想记录每一步的执行日志,方便排查问题
  • 想在敏感信息出现时阻断执行
  • 想在正式执行工具前增加人工审批

这些需求的共同点是:不是 Agent 的核心业务逻辑,却会影响执行过程。全塞进主流程会带来四个问题:

问题说明
主流程迅速变乱日志、鉴权、重试、风控、审计都塞进去,主逻辑臃肿
横切需求难以复用日志/重试/风控往往是多个 Agent 都需要,写死就产生重复代码
流程控制粒度不够细有些逻辑必须在”模型调用前”,有些要在”工具调用后”,没有统一拦截点就只能手改主流程
后期维护成本高加一条”所有外部工具调用前先审计”,没中间件就要改很多处
Important

中间件的价值在于把这些”与业务无关、但与执行过程强相关”的横切逻辑,从 Agent 主流程中分离出来——让 Agent 主体聚焦业务,中间件负责拦截流程、修改流程、增强流程

一句话记住四类能力:日志与分析(追踪、调试、性能监控)、转换(改提示词、工具选择、输出格式)、容错(重试、降级、早期终止)、安全(限流、守护规则、PII 检测)。

中间件的分类#

按来源分三类:

类别说明
自定义中间件开发者自己实现,灵活度最高(第 21 篇)
内置中间件LangChain 实现并提供,1.0 起有 16 个预置中间件,开箱即用
模型供应商定制的中间件依赖特定模型服务的实现(不是本课重点)

与模型供应商无关的内置中间件,按用途分六类:

类型目标包含
成本与资源控制控成本、控配额、避免无限调用Model call limit、Tool call limit、Summarization、Context editing
稳定性与容错服务不中断、失败自动恢复Model fallback、Model retry、Tool retry
安全与合规风控可控、可审、合规Human-in-the-loop、PII detection、调用次数限制
决策增强与智能编排提升决策质量与任务拆解To-do list、LLM tool selector、Subagent
执行能力扩展给 Agent 更多”手脚”Shell tool、File search、Filesystem
开发调试与测试辅助方便开发验证LLM tool emulator 等

图:官方文档汇总的”与模型供应商无关”的内置中间件清单

本篇讲常用的四个:Summarization、HumanInTheLoop、PII、TodoList。

SummarizationMiddleware:上下文快满时自动摘要#

作用:对历史消息列表进行摘要,达到压缩上下文的效果。

原理:达到触发条件时,调用大模型对历史消息做摘要,把摘要结果作为 HumanMessage 放到消息列表最开始的位置

from langchain.agents.middleware import SummarizationMiddleware
agent = create_agent(
model=model,
middleware=[
SummarizationMiddleware(
model=model, # 用于摘要的模型(名称或对象)
trigger=[ # 满足任一条件就触发
("tokens", 100),
("messages", 6),
("fraction", 0.001),
],
keep=("messages", 2), # 保留最近 2 条原始消息
)
],
)

参数说明

参数含义
model用于摘要的模型;传字符串时底层会调 init_chat_model
trigger触发条件,列表形式(元组),满足任一条件即触发:("tokens", n) / ("messages", n) / ("fraction", 比例)
keep摘要时保留的原始消息,同一时间只接受一种条件
token_counter统计 token 的函数,默认 count_tokens_approximately(先算字符数再粗估 token),一般不用改
summary_prompt自定义摘要提示词,必须包含 {messages} 占位符
trim_tokens_to_summarize摘要时历史消息的最大 token 数,超出会被裁剪,默认 4000
Warning

两个实测踩坑点

fraction 需要模型的”档案(profile)“里有 max_input_tokens DeepSeek 模型的 profile 为空,直接用会报错:

ValueError: Model profile information is required to use fractional token limits,
and is unavailable for the specified model.

解决:手动给模型传 profile(DeepSeek-V3.2 的上下文长度是 128K):

model = ChatDeepSeek(..., profile={"max_input_tokens": 128_000})

② 摘要后,最早的系统提示词也会”被摘要掉”。 实测把 6 条消息(含开头的 SystemMessage)喂进去,触发摘要后发给模型的消息变成:

[HumanMessage] content='Here is a summary of the conversation to date:\n\n<摘要内容>'
[AIMessage] content='你高兴得太早了'
[HumanMessage] content='呵呵,你什么意思'

原来的 SystemMessage 不在列表里了——重要的人设/规则建议用 system_prompt 参数传(它是 Agent 级别的,不占历史消息),而不是塞在 messages 列表里。

图:用 fraction 触发摘要却没配 profile 时抛出的 ValueError

HumanInTheLoopMiddleware:关键工具调用前先审批#

作用:在工具调用前中断 Agent 运行,等待用户对工具调用请求做决策。三种决策:

决策含义
approve同意执行
edit编辑调用配置后执行(可改参数)
reject拒绝执行
from langchain.agents.middleware import HumanInTheLoopMiddleware
from langgraph.checkpoint.memory import InMemorySaver
from langgraph.types import Command
agent = create_agent(
model=model,
tools=[get_weather, get_news, read_email_tool, send_email_tool],
checkpointer=InMemorySaver(), # ← 必须:中断后要能"接着跑"
middleware=[
HumanInTheLoopMiddleware(
interrupt_on={
"get_weather": True, # 三种决策都允许
"get_news": True,
"read_email_tool": False, # 不中断,直接执行
"send_email_tool": { # 精细控制
"allowed_decisions": ["approve", "reject"],
"description": "发送邮件中断了...",
},
},
description_prefix="中断啦!!", # 中断描述前缀(默认 "Tool execution requires approval")
),
],
)
config = {"configurable": {"thread_id": "1"}}
response = agent.invoke({"messages": [HumanMessage("查天气、查新闻,再发一封邮件")]}, config=config)

参数说明

参数含义
interrupt_on工具名 → 中断策略 的映射。策略可以是 True(允许全部决策)、False(不中断),或一个配置字典(allowed_decisionsdescription
description_prefix自定义中断描述前缀;单个工具的 description 优先级更高
Tip

实测这次中断的完整结构(用假服务端复现):

① 调用后返回的字典多了一个键['messages', '__interrupt__']

__interrupt__ 里装着待审批的请求interrupts[0].value 有两个键 action_requests / review_configs):

[{"name": "get_weather", "args": {"city": "北京市"},
"description": "需要审批:\n\nTool: get_weather\nArgs: {'city': '北京市'}"},
{"name": "get_news", "args": {}, "description": "需要审批:\n\nTool: get_news\nArgs: {}"}]

③ 用 Command(resume=...) 提交决策继续执行

decisions = {"decisions": [{"type": "approve"}, {"type": "reject"}]}
resumed = agent.invoke(Command(resume=decisions), config=config)

结果:approve 的工具真的被执行了(打印里能看到),reject 的那个生成了:

ToolMessage: User rejected the tool call for `get_news` with id call_1

想改参数就用 {"type": "edit", "edited_action": {"name": "get_weather", "args": {"city": "上海市"}}}——模型下一轮拿到的就是改过的参数。

Warning

两个硬性要求

  1. 必须配 checkpointer(短期记忆),否则中断了没法”接着跑”——这是第 9 章的主题,这里先记住固定用法
  2. 恢复时要用同一个 config(同一个 thread_id),否则加载不到中断现场

PIIMiddleware:敏感信息保护#

作用:检测并处理对话中的个人身份信息(Personally Identifiable Information,PII)。

from langchain.agents.middleware import PIIMiddleware
middleware=[
PIIMiddleware("email", strategy="redact", apply_to_input=True),
PIIMiddleware("credit_card", strategy="mask", apply_to_input=True),
PIIMiddleware("url", strategy="hash", apply_to_input=True),
PIIMiddleware("mac_address", strategy="mask", apply_to_input=True),
PIIMiddleware("ip", strategy="block", apply_to_input=True),
]

参数说明

参数含义
pii_type检测类型,内置:emailcredit_cardurlmac_addressip(也支持自定义类型 + 正则)
strategy处理策略,见下表
detector自定义检测函数或正则;不提供则用内置检测器
apply_to_input调用模型是否检测(默认 True)
apply_to_output模型调用是否检测(默认 False)
apply_to_tool_results工具输出是否检测(默认 False)

四种处理策略

策略效果适用场景
redact替换为 [REDACTED_EMAIL] / [REDACTED_CREDIT_CARD] 这类标签,完全擦除日志清洗、合规、公开输出
mask*** 遮蔽一部分(如 ****-********-1234),保留少量可辨识信息用户界面、前端显示
hash替换为哈希值(如 <email_hash:a1b2c3d4>统计分析、匿名追踪
block检测到就直接抛异常隐私要求极高的场景
Tip

实测 redact 的效果:用户输入”我的邮箱是 zhangsan@example.com,请记下来”,实际发给模型的消息变成了:

[{"content": "我的邮箱是 [REDACTED_EMAIL],请记下来", "role": "user"}]

建议:通常只在模型调用前检测apply_to_input=True)——因为 PII 检测的主要目的就是避免把敏感信息发给模型服务造成泄露。

TodoListMiddleware:复杂任务的待办清单#

作用:赋予 Agent 任务规划追踪进度的能力,应对复杂的多步任务。

什么时候需要它?课程给了个决策树:

你的任务是否需要拆解?
├── 否(问答、翻译、单次函数调用) ──> ❌ 绝不需要,浪费算力
└── 是(比如写一个包含多文件的工程)
└── 步骤是否多变且需要应对失败?
├── 否(步骤完全固定 A→B→C) ──> ❌ 传统的 LangGraph 线性节点即可
└── 是(AI 需要边做边调计划) ──> ✅ 引入 TodoListMiddleware

为什么有用?当一个大任务要拆成 3 个以上子任务、且前后依赖时,不列清单的大模型执行到第 3 步容易忘记最初目标,或者在工具反复报错后”应激”——直接跳过验证去回答用户。TodoListMiddleware 强迫它把计划挂在全局状态里,时刻提醒”下一步该干什么”。

打个比方:普通 Agent 像”想到哪写到哪”的实习生;带上 TodoListMiddleware 的 Agent 像”先写方案、再列 CheckList、最后按部就班执行”的资深工程师。

from langchain.agents.middleware import TodoListMiddleware
agent = create_agent(
model=model,
tools=[list_files, read_file, write_file, run_tests],
middleware=[TodoListMiddleware()],
)

参数只有两个(一般不用改):system_prompt(自定义使用 todo 的提示词)、tool_description(自定义 write_todos 工具的描述)。

Tip

实测:加上这个中间件后,请求里的工具自动多了一个 write_todos['write_todos'])——Agent 就是靠调用它来创建和维护清单的。

协同契约(三者缺一不可):

[用户请求] → [Agent 思考:这是多步任务]
→ [调用 write_todos(tasks=[...])]
→ [中间件拦截:解析参数,更新 State 里的 {"todos": [...]}]
→ [继续执行:读文件、修改、测试……]
→ [最终返回:final_state 里带着最新的 todos]

todos 的数据结构是两部分:

字段说明
content待办事项内容
status状态,三种取值:pending(待执行)、in_progress(进行中)、completed(已完成)

每完成一个步骤,Agent 就会调用一次 write_todos 更新列表——所以你可以在前端 UI 上实时展示 Agent 的”思考与执行进度”。

完整实战案例:让 Agent 自己修好”测试跑不过”的代码#

光看参数不过瘾,课程真正值钱的是这个端到端案例——让 Agent 自己扫描目录、跑测试、改代码、再跑测试,而且 todos 全程可见。

任务目标:扫描工作目录,测试并修复工作区下的 my_add.py 文件。

为此提供四个工具

工具作用
list_files扫描工作目录,列出其中的所有文件
read_file读取指定文件,返回文件内容
write_file向指定文件写入内容
run_tests运行测试,底层基于 pytest 实现

第一步:准备一个”有 Bug”的工作区

在项目根目录下创建 todo_workspace 作为工作空间,往里放两个文件。

todo_workspace/my_add.py —— 故意把”和”写成”差”:

def add(a: int, b: int) -> int:
"""返回两个整数的和"""
return a - b

todo_workspace/test_my_add.py —— 四条断言,专门抓这个 Bug:

from my_add import add
def test_add():
"""测试加法功能"""
assert add(2, 3) == 5
assert add(-1, 1) == 0
assert add(0, 0) == 0
assert add(10, -5) == 5

第二步:先把 pytest 跑起来(知道”红”长什么样)

run_tests 底层就是 pytest -q,所以先在 PyCharm 终端里手动跑一遍确认环境:

Terminal window
conda activate langchain
cd .\todo_workspace\
pytest -q

图:PyCharm 终端里执行 pytest -q——FAILURES 段直接指出 test_my_add.py 第 5 行断言失败、实际得到 -1

课程对这段日志的四点分析:

  1. pytest 会扫描目录下所有以 test_ 开头或以 _test 结尾的文件,视为测试文件
  2. 然后执行测试文件中所有以 test 开头的函数
  3. 执行出错会打印到控制台,如上所示
  4. 测试函数的逻辑是调用 my_add.py 中的 add 函数,得不到符合预期的结果则抛出异常(这里 add(2, 3) 返回 -1,于是 assert -1 == 5 挂掉)
Tip

本机实测:把同样两个文件放进一个临时目录,用 conda 环境跑 python -m pytest -q,输出与课程截图一致:

F [100%]
================================== FAILURES ===================================
__________________________________ test_add ___________________________________
def test_add():
"""测试加法功能"""
> assert add(2, 3) == 5
E assert -1 == 5
E + where -1 = add(2, 3)
test_my_add.py:5: AssertionError
=========================== short test summary info ===========================
FAILED test_my_add.py::test_add - assert -1 == 5
1 failed in 0.14s

return a - b 改成 return a + b 后再跑一次,输出变成 1 passed in 0.01s——这就是 Agent 最终要做的事。

Warning

本机环境差异(实测):课程里 pytest 命令开箱可用(conda 环境已激活);本机 miniconda base 环境没装 pytest,得用 python -m pytest,或者切到 conda 环境 langchain1.2(里面是 pytest 9.0.3)。 而下面的 run_tests 工具是用 subprocess.run(["pytest", "-q"], ...) 直接起 pytest 这个命令的,所以跑 Agent 之前必须先把带 pytest 的环境激活,否则工具只会顺着 except 返回”运行测试失败: …”。

第三步:业务代码——模型初始化 + 四个工具

import os
from pathlib import Path
import subprocess
from dotenv import load_dotenv
from langchain.chat_models import init_chat_model
from langchain.tools import tool
load_dotenv(override=True)
model = init_chat_model(
model="deepseek-v4-flash",
model_provider="openai",
api_key=os.getenv("DEEPSEEK_API_KEY"),
base_url=os.getenv("DEEPSEEK_BASE_URL"),
)
# 工作区:相对"运行脚本时的当前目录"(课程里脚本放在子目录,所以用了 ..)
WORKSPACE = Path("../todo_workspace")
@tool
def list_files(path: str = ".") -> str:
"""
列出工作区指定目录下的文件和子目录。path 只能是相对路径。
Args:
path: 工作区下的相对路径,一定指向目录,默认为.,表示工作区根路径,不能访问工作区外的目录
"""
target = (WORKSPACE / path).resolve()
workspace_root = WORKSPACE.resolve()
if not str(target).startswith(str(workspace_root)):
return "错误:只允许访问工作区内的目录。"
if not target.exists():
return f"错误:目录不存在: {path}"
if not target.is_dir():
return f"错误:不是目录: {path}"
items = sorted(target.iterdir(), key=lambda p: (p.is_file(), p.name.lower()))
if not items:
return f"目录为空: {path}"
lines = []
for item in items:
rel = item.relative_to(workspace_root)
kind = "[DIR]" if item.is_dir() else "[FILE]"
lines.append(f"{kind} {rel.as_posix()}")
return "\n".join(lines)
@tool
def read_file(path: str) -> str:
"""
读取工作区中的文本文件内容。path 只能是相对路径。
Args:
path: 工作区内的文件名
"""
file_path = (WORKSPACE / path).resolve()
if not str(file_path).startswith(str(WORKSPACE.resolve())):
return "错误:只允许读取工作区内的文件。"
if not file_path.exists():
return f"错误:文件不存在: {path}"
return file_path.read_text(encoding="utf-8")
@tool
def write_file(path: str, content: str) -> str:
"""
写入工作区中的文本文件。path 只能是相对路径。
Args:
path: 工作区内的文件名
content: 写入文件的内容
"""
file_path = (WORKSPACE / path).resolve()
if not str(file_path).startswith(str(WORKSPACE.resolve())):
return "错误:只允许写入工作区内的文件。"
file_path.write_text(content, encoding="utf-8")
return f"已写入文件: {path}"
@tool
def run_tests() -> str:
"""
在工作区运行 pytest -q,并返回输出。
不接收任何参数,返回格式为
returncode=0|1
STDOUT:
STDERR:
"""
try:
result = subprocess.run(
["pytest", "-q"],
cwd=str(WORKSPACE),
capture_output=True,
text=True,
timeout=20,
)
return (
f"returncode={result.returncode}\n\n"
f"STDOUT:\n{result.stdout}\n\n"
f"STDERR:\n{result.stderr}"
)
except Exception as e:
return f"运行测试失败: {e}"
Note

注意三个工具的路径沙箱写法:都先 (WORKSPACE / path).resolve() 再判断 startswith(工作区根目录)——防止模型用 ../../ 越出工作区。这是给 Agent 配”文件系统工具”时的标准防护姿势。

第四步:挂上 TodoListMiddleware 跑起来

from langchain.agents import create_agent
from langchain.agents.middleware import TodoListMiddleware
from langchain.messages import HumanMessage
from rich import print as rprint
# 1. 初始化 Agent
agent = create_agent(
model=model,
# 除 write_todos 等工具外,TodoListMiddleware 需要配合这些业务工具使用
tools=[list_files, read_file, write_file, run_tests],
# 引入 Todo 列表中间件
middleware=[TodoListMiddleware()],
system_prompt=(
"你是一个代码修复助手。遇到多步骤任务时,先使用 write_todos 制定待办事项;"
"然后读取文件、修复代码并运行测试。工作全部在工作区下进行。"
),
)
# 2. 同步调用:让 Agent 自己改到测试通过
print("正在执行 Agent 任务...")
final_state = agent.invoke(
{"messages": [HumanMessage(content="请测试并修复工作区下 my_add.py 文件中的代码")]}
)
# 3. 直观展示中间件产生的数据结果
rprint(final_state)
# TodoListMiddleware 运行期间,会自动把规划好的步骤注入到 state 的 "todos" 字段
todos = final_state.get("todos", [])
if todos:
for i, item in enumerate(todos, 1):
print(f"{i}. [{item.get('status', 'unknown')}] {item.get('content')}")
else:
print("未检测到待办事项(可能 Agent 认为不需要规划,或未触发 write_todos 工具)")

第五步:看输出——写清单 → 跑测试 → 改代码 → 再跑测试

模型第一轮就把计划列了出来(finish_reason: 'tool_calls',调用的是 write_todos):

AIMessage(tool_calls=[
{'name': 'write_todos',
'args': {'todos': [
{'content': '检查工作区结构并定位 my_add.py', 'status': 'in_progress'},
{'content': '阅读 my_add.py 及相关测试/调用代码,确认问题', 'status': 'pending'},
{'content': '修复 my_add.py 中的代码缺陷', 'status': 'pending'},
{'content': '运行 pytest 验证修复结果', 'status': 'pending'},
]},
'id': 'call_bvFfyZG1YVvKbqPBpUsHJbHa', 'type': 'tool_call'}
])

每一步做完,Agent 再调一次 write_todos 把 status 往后推,工具返回的是更新后的整份清单:

ToolMessage(content="Updated todo list to [
{'content': '检查工作区结构并定位 my_add.py', 'status': 'completed'},
{'content': '阅读 my_add.py 及相关测试/调用代码,确认问题', 'status': 'completed'},
{'content': '修复 my_add.py 中的代码缺陷', 'status': 'completed'},
{'content': '运行 pytest 验证修复结果', 'status': 'in_progress'}]",
name='write_todos')

final_state["todos"] 里存着最终清单(独立于 messages,所以做进度条直接读它就行):

'todos': [
{'content': '检查工作区结构并定位 my_add.py', 'status': 'completed'},
{'content': '阅读 my_add.py 及相关测试/调用代码,确认问题', 'status': 'completed'},
{'content': '修复 my_add.py 中的代码缺陷', 'status': 'completed'},
{'content': '运行 pytest 验证修复结果', 'status': 'completed'},
]

最终回复(AIMessage)就是把减法改回加法的总结:

已修复 `my_add.py`,把减法改成了加法。
```python
def add(a: int, b: int) -> int:
"""返回两个整数的和"""
return a + b
```

分析(课程原话归纳):为了让 TodoListMiddleware 生效,Agent、工具和中间件三者之间必须满足特定的协同契约——

  1. todos 列表的维护是通过工具调用实现的:一次完整的更新流程就是 AIMessage(tool_calls=[write_todos...])ToolMessage("Updated todo list to [...]")
  2. 每条 todo 的信息分两部分status(状态)和 content(内容);状态只有三种取值 —— in_progress(正在进行)、completed(已完成)、pending(待执行)
  3. 每进行一个步骤,Agent 就会更新一次 To-do list——所以你在前端看到的”进度”其实来自一长串 write_todos 调用
Warning

课程输出里还有一句值得留意:“我尝试运行测试,但当前工作区环境里 pytest 命令不可用/找不到”——这正是前面那条”环境差异”警告的现场版本:工具报错不会被隐藏,它会作为 ToolMessage 回到对话里,模型据此如实汇报。所以”Agent 说它测不了”时,先查是不是跑 Agent 的那个解释器没装 pytest。

相关#

练习题#

一、回忆填空(写完再展开对答案)#

  1. create_agent 背后的四个组件:模型像____、工具像____、系统提示词像角色、中间件像____
  2. 中间件本质是 Agent 执行过程中的____函数,价值是把与业务无关但影响执行过程的____逻辑从主流程分离出来
  3. 中间件按来源分三类:____、内置中间件、模型供应商定制的中间件;LangChain 1.0 起提供了____个预置中间件
  4. SummarizationMiddleware 的原理是:达到触发条件时调模型做摘要,把摘要结果作为____消息放到消息列表的____位置
  5. 它的 trigger 支持三种度量:、____;触发条件是”满足____即触发”,而 keep 同一时间只接受____种条件
  6. fraction 触发时要求模型的 profile 含 ____;DeepSeek 的 profile 为空,需要手动传 profile={"____": 128_000}
  7. HumanInTheLoopMiddleware 的三种决策:(同意)、(编辑后执行)、____(拒绝)
  8. 中断时返回的字典里有 ____ 键,里面装着 action_requests;恢复用 Command(resume={"____": [...]}),并且要用同一个 config
  9. PII 四种处理策略:(完全擦除)、(部分遮蔽)、(哈希替代)、(直接抛异常)
  10. TodoListMiddleware 靠调用____工具维护清单;每条待办的 status 有三种:____ / ____ / ____
填空答案(做完再点开)
  1. 大脑 / 手脚 / 中枢(拦截与增强) 2. 钩子(hook) / 横切 3. 自定义中间件 / 16 4. HumanMessage / 最开始 5. tokens / messages / fraction / 任一条件 / 一 6. max_input_tokens / max_input_tokens 7. approve / edit / reject 8. __interrupt__ / decisions 9. redact / mask / hash / block 10. write_todos / pending / in_progress / completed

二、裸写题#

  • 2-1 给 Agent 加上自动摘要 建一个带 SummarizationMiddleware 的 Agent:trigger=[("messages", 6)]keep=("messages", 2),然后连续 invoke 若干轮(每轮追加一条 HumanMessage),观察消息条数在触发后如何”掉下来”。

    提示(先自己想,实在想不出再点开)

    一级 · 思路:摘要的触发是”下一次请求前判断历史是否超阈值” 二级 · 方法SummarizationMiddleware(model=model, trigger=[("messages", 6)], keep=("messages", 2)) 三级 · 骨架:打印 len(response["messages"]) 和每条消息的类型,找找那条”摘要消息”长什么样

  • 2-2 用 PII 中间件拦住邮箱PIIMiddleware("email", strategy="redact", apply_to_input=True) 创建 Agent,发一句带邮箱的话,打印返回的消息列表,确认邮箱已经被替换成 [REDACTED_EMAIL]

    提示

    一级 · 思路:脱敏发生在”发给模型之前” 二级 · 方法PIIMiddleware("email", strategy="redact", apply_to_input=True) 三级 · 骨架:对比一下 strategy="hash""block" 的效果(block 会直接抛异常)

  • 2-3 给待办清单中间件搭个世界观TodoListMiddleware() 创建一个”能修复代码”的 Agent(工具:读文件、写文件、跑测试),问一个多步任务,打印消息列表,找出 write_todos 的调用和它的工具返回。

    提示

    一级 · 思路:todos 是靠工具调用更新的,所以消息里能看到 ToolMessage 二级 · 方法middleware=[TodoListMiddleware()] 三级 · 骨架:任务要”多步且依赖前后”,否则模型不会去写清单

三、综合题#

  • 3-1 给”发邮件”加上人工审批 定义一个 send_email_tool(函数体里 print("真的执行了")),用 HumanInTheLoopMiddleware 对它开启审批,配 InMemorySaverthread_id,然后:

    1. 先 invoke 一次,从返回里取出 __interrupt__,打印待审批的 action_requests
    2. Command(resume={"decisions": [{"type": "reject"}]}) 拒绝,观察工具没有被执行、且产生了 rejected 的 ToolMessage
    3. 再重新跑一次,改用 approve,确认工具真的执行了
    提示(先自己想,实在想不出再点开)

    一级 · 思路:中断-审批-恢复是一条完整链路,三要素缺一不可 二级 · 方法checkpointer=InMemorySaver() + config={"configurable": {"thread_id": "1"}} + Command(resume=...) 三级 · 骨架interrupts = response.get("__interrupt__", []),里面 interrupts[0].value["action_requests"] 就是待审批列表

参考答案(做完再点开)
import os
from dotenv import load_dotenv
from langchain.agents import create_agent
from langchain.agents.middleware import (
HumanInTheLoopMiddleware,
PIIMiddleware,
SummarizationMiddleware,
TodoListMiddleware,
)
from langchain.chat_models import init_chat_model
from langchain.messages import HumanMessage
from langchain.tools import tool
from langgraph.checkpoint.memory import InMemorySaver
from langgraph.types import Command
load_dotenv(override=True)
model = init_chat_model(
model="deepseek-v4-flash",
model_provider="openai",
api_key=os.getenv("DEEPSEEK_API_KEY"),
base_url=os.getenv("DEEPSEEK_BASE_URL"),
)
# ---------- 2-1 自动摘要 ----------
agent_sum = create_agent(
model=model,
tools=[],
middleware=[
SummarizationMiddleware(
model=model,
trigger=[("messages", 6)],
keep=("messages", 2),
)
],
)
messages = [HumanMessage("你好,我是老王")]
for i in range(4):
r = agent_sum.invoke({"messages": messages})
messages = r["messages"]
print(f"第 {i + 1} 轮: 共 {len(messages)} 条 | {[type(m).__name__ for m in messages]}")
messages.append(HumanMessage(f"继续聊,这是第 {i + 2} 句"))
# 触发摘要那一轮:条数会明显减少,且第一条变成"摘要"的 HumanMessage
# ---------- 2-2 PII 脱敏 ----------
@tool
def note_it(text: str) -> str:
"""记录一段文本
Args:
text: 要记录的文本
"""
return f"已记录:{text}"
agent_pii = create_agent(
model=model,
tools=[note_it],
middleware=[PIIMiddleware("email", strategy="redact", apply_to_input=True)],
)
r = agent_pii.invoke({"messages": [HumanMessage("我的邮箱是 zhangsan@example.com,请记下来")]})
for m in r["messages"]:
print(type(m).__name__, "|", str(m.content)[:80])
# ToolMessage 里应该已经看不到原始邮箱
# ---------- 3-1 人工审批 ----------
@tool
def send_email_tool(recipient: str, subject: str, body: str) -> str:
"""发送邮件
Args:
recipient: 收件人邮箱
subject: 邮件标题
body: 邮件正文
"""
print(">>> 真的执行发送邮件工具了")
return f"已发送给 {recipient}{subject}"
agent_hitl = create_agent(
model=model,
tools=[send_email_tool],
checkpointer=InMemorySaver(),
middleware=[
HumanInTheLoopMiddleware(
interrupt_on={
"send_email_tool": {"allowed_decisions": ["approve", "reject"]}
},
description_prefix="需要你审批:",
)
],
)
config = {"configurable": {"thread_id": "1"}}
response = agent_hitl.invoke(
{"messages": [HumanMessage("帮我给 abc@qq.com 发一封邮件,标题'测试',内容'你好'")]},
config=config,
)
interrupts = response.get("__interrupt__", [])
print("是否需要审批:", bool(interrupts))
for req in interrupts[0].value["action_requests"]:
print("待审批:", req["name"], req["args"])
# 第一步:拒绝
r2 = agent_hitl.invoke(Command(resume={"decisions": [{"type": "reject"}]}), config=config)
for m in r2["messages"]:
print(type(m).__name__, "|", str(m.content)[:80])
# 会看到:User rejected the tool call for `send_email_tool` ...,且没有打印"真的执行"
# 第二步:换个 thread_id 重新来一次,这次批准
config2 = {"configurable": {"thread_id": "2"}}
response2 = agent_hitl.invoke(
{"messages": [HumanMessage("帮我给 abc@qq.com 发一封邮件,标题'测试',内容'你好'")]},
config=config2,
)
r3 = agent_hitl.invoke(Command(resume={"decisions": [{"type": "approve"}]}), config=config2)
for m in r3["messages"]:
print(type(m).__name__, "|", str(m.content)[:80])
# 这次会打印 ">>> 真的执行发送邮件工具了"

评论区

[ 标签 ]
# AI37# AI 编程2# AI工具1# Ajax2# Apifox1# AstrBot3# Astro2# CC Switch1# CDN2# Claude Code1# claudecode2# ClaudeCode1# Cloudflare2# CloudFlare2# CloudFlare-ImgBed3# coc3# CSS6# DeepSeek6# deepseek2# DELETE1# Docker1# EdgeOne3# Gist1# git1# GitHub1# hexo-circle-of-friends1# HTML6# HTTP5# ImageManager1# Java23# java13# JavaScript5# JDBC3# JSON2# JUnit1# LangChain25# Logback1# Maven6# Muse Spark1# Mybatis1# MyBatis4# MySQL28# MySql1# NapCat1# Node.js1# obsidian2# Obsidian5# OpenCode4# ORM1# PathVariable1# PicGo1# PyCharm1# Python65# RequestBody1# RequestMapping1# RESTful风格1# skills1# Slf4j1# SpringBoot11# SQL2# Streamlit5# Svelte2# TailwindCSS1# Telegram3# Tlias2# Vercel1# vscode2# Vue7# Waline3# WebDAV1# Web基础6# Web开发6# WinSCP1# YAML1# 三层架构1# 中二宣言1# 书籍1# 使用文档10# 写作1# 函数2# 刷步数1# 前端32# 动态1# 动漫1# 包1# 单词2# 博客7# 博客工作流1# 博客开发2# 参数接收1# 友链1# 反思2# 图床6# 地图1# 备份2# 大模型1# 奇思妙想1# 存储1# 学习方法6# 学校1# 宝塔面板3# 宝宝10# 对象1# 导航栏1# 工具2# 开发1# 开发工具1# 开发规范1# 开心1# 异常处理1# 影视2# 微信1# 性能优化2# 总结1# 想法15# 感受1# 感悟11# 指南1# 提示词工程1# 插件5# 故障排除1# 效率工具2# 教程10# 数据分析9# 数据库27# 数据结构1# 文件操作2# 斩神1# 日常92# 日志框架1# 朋友圈1# 朱元璋1# 模块1# 模板1# 正则表达式2# 测试1# 游戏2# 爬虫7# 生活迁移1# 电影2# 电脑1# 碎碎念1# 视觉识别1# 类1# 类型注解1# 网络基础2# 网络教室1# 羊毛2# 脚本2# 脚本工具1# 自动化2# 蓝奏云1# 订阅推荐2# 记录2# 评论系统1# 词根1# 词缀1# 说说1# 足迹1# 跑步2# 路径参数1# 转载2# 运动1# 部落冲突1# 配置1# 随机图1# 面向对象5# 音乐3# 音标1# 饮食1# 驼峰命名1# 高德地图1
[ 公告 ]

如果你喜欢,那么欢迎来到我的世界!

了解更多
[ 音乐 ]
封面

音乐

暂未播放

0:000:00
暂无歌词
找不到相关结果。
[ contents ]
[ 全部文章 ]