17 种现代 AI Agent 架构实战手册
17 种现代 AI Agent 架构实战手册
一份面向工程师的”AI Agent 架构活教材”——把论文里的概念,全部落成可运行的 LangGraph 代码。
项目是什么
all-agentic-architectures 是一个教学型开源仓库,用 17 个独立的 Jupyter Notebook,端到端实现了当前最具代表性的 17+ 种 AI Agent 架构。每个 Notebook 都是一份”独立可跑、配套讲解、自带评估”的完整 Demo。
技术栈统一为(详见 en/README.md 的 Technical Stack 表):
-
Python 3.10+
-
LangChain:与 LLM、工具交互的基础积木
-
LangGraph:构建有状态、可循环 Agent 工作流的核心编排框架
-
Nebius AI Models(例如
Mixtral-8x22B-Instruct-v0.1):驱动 Agent 推理的高性能 LLM -
Pydantic:保证与 LLM 通信时数据结构稳健可靠
-
Jupyter Notebook:用于交互式开发与逐步讲解
-
Tavily Search:研究型 Agent 用的搜索工具
-
Neo4j:实现语义记忆与世界模型的图数据库
-
FAISS:通过相似度搜索实现情节记忆的向量库
为什么值得看
市面上 Agent 资料要么是论文(太抽象),要么是 Demo(只展示一种模式)。这个仓库的差异化在于:
-
从理论到可运行代码:每种架构都不是 PPT,而是一个可以
jupyter notebook直接跑通的工作流。 -
结构化学习路径:17 个 Notebook 按由浅入深排序,从单 Agent 增强 → 多 Agent 协作 → 高级记忆与推理 → 安全可靠 → 自我进化。
-
强调评估(LLM-as-a-Judge):几乎每个 Notebook 都包含一个”评委 LLM”,对 Agent 输出做量化打分——这是工业界落地最缺的一环。
-
场景贴近真实业务:金融分析、代码生成、社媒运营、医疗分诊……不是 toy example。
-
统一框架:全部基于 LangGraph 的有状态、循环图,学完一套范式可迁移到所有场景。
17 种架构详解
下面按 Notebook 顺序,对每种架构给出:定义、核心工作流、典型应用、优势与劣势。
Reflection(反思)
定义:Agent 在给出最终答案前,先批判并修订自己的初稿。把”一次过的生成器”升级为”生成 → 自评 → 改写”的多步内部独白。
核心思想:从”单次生成器”变为”多步推理器”,agent 对自己的输出进行自我批评和改进
核心工作流:① Generate 初稿 → ② Critique 找问题 → ③ Refine 输出改进版。
关键要点:让 LLM 成为自己的批评者,通过内在反馈循环提升输出质量。
典型应用:代码生成与审查、复杂摘要、创意写作。
优势:① 直接纠正错误,质量显著提升;② 概念简单,单个 LLM 即可实现。
劣势:① 自我偏见——批评者和生成者是同一个 LLM,盲区相同;② 至少两次 LLM 调用,延迟与成本翻倍。
Tool Use(工具调用)
定义:赋予 LLM 调用外部函数 / API 的能力,由 Agent 自主决定何时用哪个工具,突破知识截止与”与世隔绝”的限制。
核心思想:Agent 通过调用外部 API 和函数,克服知识截断并与真实世界交互。
核心工作流:① 收到 Query → ② 判断是否需要工具 → ③ 格式化并调用工具 → ④ 观察返回结果 → ⑤ 综合信息给出最终答案。
关键要点:工具是 agent 的”手和眼”,让它超越训练数据的局限。
典型应用:实时联网研究助手、查询企业内部数据库、精确数学/科学计算。
优势:① 用真实数据大幅减少幻觉;② 加新工具即扩展能力,扩展性强。
劣势:① 工具集成与 API 管理成本高;② 答案质量受工具可靠性制约。
ReAct(Reason + Act)
定义:把”思考(Thought)“与”行动(Action)“交错放进一个循环——产生想法 → 执行动作 → 观察结果 → 用观察驱动下一个想法,形成动态自适应循环。
核心思想:动态交替推理(Thought)和行动(Action),形成自适应循环。
核心工作流:① 接收目标 → ② Think → ③ Act → ④ Observe → ⑤ 重复直到目标达成。
为什么重要:
每一步推理都基于前一步观察
可以动态调整策略
处理多跳推理和复杂问题链
典型应用:多跳问答、网页导航与研究、动态环境中的交互式工作流。
优势:① 可在执行中临场调整计划;② 擅长有依赖关系的多步任务。
劣势:① 多轮串行 LLM 调用,延迟与成本高;② 可能陷入重复循环。
Planning(规划)
定义:在执行前显式地把复杂目标拆解为一份有序的子任务清单,然后按部就班执行。
核心思想:在执行前主动将复杂任务分解为详细的逐步计划。
核心工作流:① 收到目标 → ② Planner 生成有序子任务 → ③ Executor 顺序执行每一步 → ④ Synthesize 汇总结果。
关键要点:规划提供结构化和可追踪性,是生产环境中的关键能力。
典型应用:多步数据流水线(取数 → 处理 → 摘要)、项目管理助手、教学课程生成。
优势:① 结构化、可追溯、易调试;② 避免无谓的推理循环,效率更高。
劣势:① 计划固定,环境变化时容易失败;② 适应性不如 ReAct。
Multi-Agent Systems(多智能体系统)
定义:把任务分给一组各有专长的 Agent,由中央控制器调度通信与路由,多人协作完成共同目标。
核心思想:一组专业化 agent 分工协作,实现比单一 agent 更优的深度、质量和结构。
核心工作流:① 任务分解 → ② 角色分配(给专家 Agent)→ ③ 协作(传递输出或写入共享空间)→ ④ 由 Manager Agent 汇总最终结果。
架构特点:
每个 agent 有明确的角色和专长
Agent 之间通过消息或共享状态通信
可以有层级结构或平等结构
典型应用:跨领域复杂报告生成、软件开发流水线(产品/开发/测试角色)、创意头脑风暴(多人设并行)。
优势:① 专精带来深度;② 模块化、可增可减;③ 可并行执行。
劣势:① 通信与协调成本高;② LLM 调用更多,成本与延迟上升。
PEV(Plan → Execute → Verify)
定义:在 Plan-Execute 之上增加显式 Verifier,每一步执行结果都先校验再继续,形成可自我纠错、可恢复的鲁棒回路。
核心工作流:① Plan 拆步 → ② Executor 调用工具执行下一步 → ③ Verifier 校验结果 → ④ 成功则继续,失败则带上下文回到 Plan 重新规划。
核心思想:一个高度鲁棒的自纠正循环,Verifier agent 检查每一步执行结果。
Plan → Execute → Verify → (失败) → Re-plan → Execute → Verify → (成功) → 继续
↑ ↓
└────────────────────────────────────────────┘
为什么重要
错误检测:Verifier 独立验证执行结果
动态恢复:失败后自动重新规划,而非直接崩溃
适用于不可靠环境:外部工具可能出错、API 可能超时
典型应用:金融/医疗等安全关键场景、不稳定工具系统(不稳定的第三方 API)、法律 / 科研等高精度任务。
优势:① 鲁棒可靠,能发现并恢复错误;② 关注点分离,易于调试。
劣势:① 校验步骤额外增加 LLM 调用,延迟与成本上升;② 设计一个好的 Verifier 本身有挑战。
Blackboard Systems(黑板系统)
定义:多名专家 Agent 通过一个中央共享数据存储(“黑板”)协作,由动态 Controller 观察黑板状态,决定下一步激活哪位专家——是一种”机会式”协作。
核心思想:Agent 通过**共享中央记忆(黑板)**进行机会主义协作,由动态控制器引导。
核心工作流:① 维护共享 Blackboard → ② 一组独立专家监控黑板 → ③ Controller 分析状态决定下一位专家 → ④ 被选中的专家读取黑板、完成任务、写回结果 → ⑤ 迭代直到问题解决。
架构:
┌─────────────┐
│ Controller │ ← 动态调度
└──────┬───────┘
│
┌───────────┼───────────┐
│ │ │
┌───▼───┐ ┌───▼───┐ ┌───▼───┐
│Agent 1│ │Agent 2│ │Agent 3│
└───┬───┘ └───┬───┘ └───┬───┘
│ │ │
└───────────┼───────────┘
│
┌─────▼─────┐
│ Blackboard │ ← 共享记忆
└───────────┘
与传统多 Agent 的区别:
Agent 不直接通信,都通过黑板读写
Controller 决定谁在什么时候工作
灵活性极高,适合动态问题
典型应用:复杂、结构不良的诊断与探索问题;多模态系统(文/图/代码混合处理);异步数据源的动态推理。
优势:① 工作流由问题本身涌现,极其灵活;② 模块化,易增减专家。
劣势:① 整个系统的智能高度依赖 Controller 的质量;② 非线性流程,调试与追踪困难。
Episodic + Semantic Memory(情节 + 语义记忆栈)
定义:同时维护两类长期记忆——情节记忆(向量库存对话/事件流水)+ 语义记忆(图数据库存结构化事实),实现真正的长程个性化与学习。
核心思想:双记忆系统,结合两种不同性质的存储。
架构:
核心工作流:① 交互 → ② 检索(向量搜相似对话 + 图查询相关事实)→ ③ 把检索到的记忆注入 Prompt → ④ 把当次对话编码为情节摘要、抽取语义事实 → ⑤ 写回向量库 / 图库。
典型应用:长期个人助理;电商 / 教育的个性化推荐;构建知识图谱的研究型 Agent。
优势:① 真正的长期个性化,上下文不再丢失;② 图结构支持复杂关系推理。
劣势:① 工程复杂度显著提升;② 记忆膨胀问题——必须有剪枝与归并策略。
Tree of Thoughts(思维树)
定义:把解题过程建模成一棵树,Agent 并行探索多条推理路径(分支),评估每条分支的可行性,剪掉无望分支、扩展有希望分支,系统性搜索最优解。
核心思想:通过树结构探索多条推理路径,评估并剪枝分支,找到最优解。
核心工作流:① 把问题分解为多步 → ② 在每一步生成多个候选下一步(分支)→ ③ Critic 评估每个分支的有效性、进度、启发式分 → ④ 剪枝与扩展 → ⑤ 直到找到解。
与 Chain-of-Thought 的区别
Chain-of-Thought: A → B → C → D (线性)
Tree of Thoughts: A
/ | \
B C D (分支探索)
/ \ \
E F G
典型应用:逻辑谜题与数学题、有顺序约束的复杂规划、创意写作或代码生成。
优势:① 系统化探索解空间,鲁棒性强;② 能处理组合爆炸式的复杂度。
劣势:① 计算量大,LLM 调用与状态管理都重;② 强依赖评估函数的质量。
Mental Loop / Simulator(心智模拟器)
定义:在真正执行前,先在内部模拟环境里”预演”几步,观察可能后果,再决定要不要在现实里执行——本质是”三思而后行”。
核心思想:Agent 在内部”心理模型”中模拟行动,预测结果并评估风险,然后再执行。
核心工作流:① Observe 当前状态 → ② 提出高层动作策略 → ③ 在沙箱里 fork 环境、应用动作、向前演若干步 → ④ 评估结果、改进策略 → ⑤ 在真实环境执行 → ⑥ 从新状态再循环。
典型应用:机器人抓取/路径规划、金融/医疗等高风险决策、需要 multi-move lookahead 的游戏 AI。
关键价值
零风险探索:在心理空间中试错,不影响真实世界
风险预判:在行动前就知道可能的负面后果
适用于物理世界交互
优势:① 在安全沙箱里先验证动作,显著降低风险;② 决策更深思熟虑,质量更高。
劣势:① 存在 Sim-to-Real Gap,效果取决于模拟器保真度;② 多场景模拟开销大。
Meta-Controller(元控制器 / 智能路由)
定义:一个上层”指挥官”Agent,分析进来的任务,把它分派给最合适的专家子 Agent。本质上是 Agent 池之上的一层智能路由。
核心思想:一个监督 agent分析输入任务并路由给最合适的专业子 agent。
核心工作流:① 接收输入 → ② Meta-Controller 分析意图、复杂度、内容 → ③ 选出最佳专家 → ④ 专家执行任务 → ⑤ 返回结果。
关键设计:
Meta-Controller 不执行任务,只负责分类和路由
每个 Specialist 在自己的领域深度优化
可以根据任务复杂度动态选择 agent
典型应用:多服务 AI 平台、覆盖日程/网页/智能家居的自适应个人助理、工单路由等企业工作流。
优势:① 灵活模块化,新增专家很容易;② 用一群高度专精的小专家替代”什么都会但都不精”的大通才。
劣势:① Controller 是单点风险,路由错就一错到底;② 多了一层路由,延迟增加。
Graph / World-Model Memory(图世界模型)
定义:把知识以”节点(实体)+ 边(关系)“的形式存进图数据库,形成一个动态的”世界模型”,从而支持非结构化文本难以胜任的多跳推理。
核心思想:将知识存储为实体和关系的结构化图,支持多跳推理。
核心工作流:① 摄入非结构化数据 → ② LLM 抽取实体与关系 → ③ 在图数据库中增/改节点与边 → ④ 把问题翻译成图查询、执行、综合返回。
典型应用:企业知识助理、高级研究助理、复杂系统的故障诊断。
优势:① 结构化、可解释,答案路径可追溯;② 擅长多跳关系推理。
劣势:① 需要设计良好的 schema,前期复杂度高;② 图的更新、冲突解决、剪枝长期维护成本高。
Ensemble(并行探索 + 集成决策)
定义:把同一个问题同时丢给多个具有不同人设/视角的独立 Agent,再由一个 Aggregator 通过投票或综合得出最终结论——类似”专家会诊”。
核心思想:多个独立 agent 从不同视角分析,聚合器综合输出,获得更稳健、偏差更小的结论。
核心工作流:① Fan-out:问题分发给 N 个独立专家 → ② 每个专家独立完成完整分析 → ③ Fan-in:收集所有输出 → ④ Aggregator 加权综合,给出最终答案。
典型应用:复杂、含糊的硬推理问答;事实核查与验证;医疗、金融等高风险决策支持。
优势:① 平均掉随机错误,可靠性与准确率显著提升;② 单个 Agent 幻觉时,其它人不太会同步幻觉,降低风险。
劣势:① 成本极高,LLM 调用按集成规模倍增;② 延迟取决于最慢的那条路径。
Dry-Run Harness(试运行护栏 + 可观测性)
定义:拦截 Agent 的真实动作,先在 dry-run 沙箱里执行一遍并产出日志/计划,经过人工或自动审查批准后,才在生产环境真正执行。
核心思想:Agent 的动作先在沙箱中模拟执行,必须通过审批后才能真实执行。
核心工作流:① Agent 提出动作 → ② 以 dry_run=True 调用工具,收集日志 → ③ 汇总可观测数据 → ④ 人工/自动 Reviewer 审查正确性、安全性、对齐性 → ⑤ Go / No-Go 决策 → ⑥ 批准后以 dry_run=False 真实执行。
与 Mental Loop 的区别:
典型应用:Agent 的调试与测试、生产前验证与安全门禁、Agent 的 CI/CD。
优势:① 透明、安全、留下完整审计链;② 排查问题时不需要”撤销操作”。
劣势:① 强制审查会拖慢部署;② 要求底层工具必须支持 dry-run 模式。
Self-Improvement Loop(自我改进 / RLHF 类比)
定义:Agent 自评或由 Critic 评价输出,反馈用于产生更高质量的修订版;优质输出沉淀下来,长期看相当于在做”轻量 RLHF”。
核心思想:Agent 的输出被”编辑”agent 批评,反馈驱动迭代修改,高质量输出被保存用于改进未来表现。
核心工作流:① 生成初稿 → ② Critic 按 rubric 打分 → ③ 判断是否达标 → ④ 未达标则把”草稿 + 反馈”送回继续修订 → ⑤ 达标则接受输出。
与传统 RLHF 的关系
借鉴 RLHF 的”从反馈中学习”理念
但使用 LLM 作为 Editor(而非人类标注)
高质量输出被存入记忆,形成”经验库”
典型应用:法律/技术/营销等高质量内容生成、需要持续学习与个性化的场景、复杂方案的方案-评审-修订循环。
优势:① 迭代精修显著提升输出质量;② 为”持续学习”提供框架。
劣势:① 如果 Critic 本身有偏见,会被反复强化;② 每个任务多次 LLM 调用,成本高。
Cellular Automata(元胞自动机 / 网格系统)
定义:在二维网格上部署大量简单、去中心化的 cell-agent,每个细胞只看相邻邻居的状态,按局部规则同步更新;全局智能行为从局部交互中涌现。
核心思想:大量简单的、去中心化的网格 agent,通过局部交互产生复杂的涌现全局行为。
核心工作流:① 初始化网格与每个 cell 的状态 → ② 设定边界条件(种子细胞)→ ③ 同步 tick:每个 cell 依据邻居计算下一状态 → ④ 信息像波一样在网格上传播 → ⑤ 系统稳定后从最终网格读出解。
典型应用:路径规划等空间推理与物流问题;火灾、传染病、城市生长等复杂系统模拟;可 GPU 加速的并行计算。
优势:① 天然高并行,速度极快;② 对环境变化反应灵敏;③ 用极简规则解决复杂问题,涌现之美。
劣势:① 设计”能产生期望全局行为的局部规则”非常反直觉;② 推理分散在网格上,可解释性弱。
Reflexive Metacognitive(元认知反思 Agent)
定义:Agent 维护一个关于”自己会什么、不会什么、有多大把握”的显式自我模型,并用它选择最稳妥的策略——在高风险领域尤其重要。
核心思想:Agent 拥有**“自我模型”,能够推理自己的能力和局限,决定是行动、使用工具还是升级给人类**。
核心工作流:① 感知任务 → ② 元认知分析:把请求对照自我模型,评估置信度、可用工具、领域契合度 → ③ 策略选择:Reason Directly / Use Tool / Escalate / Refuse → ④ 执行所选策略 → ⑤ 给出答案、工具增强答案,或安全地拒绝。
接收任务 → 自我评估:我能处理吗?
├── 能 → 执行
├── 需要工具 → 调用工具
└── 超出能力 → 升级给人类
关键能力
-
知道自己不知道什么:避免在能力范围外强行回答
-
主动寻求帮助:识别何时需要人工介入
-
能力边界意识:对高风险领域(医疗、法律、金融)尤为重要
典型应用:医疗、法律、金融等高风险咨询系统;需要在物理动作前评估安全性的自主系统;复杂工具编排器。
优势:① 显著提升安全性与可靠性,从设计上避免”自信地胡说”;② 主动选择策略,质量优于盲目尝试。
劣势:① 定义准确的自我模型本身很难;② 每个请求多一层元认知分析,延迟与成本上升。
推荐的学习路径
仓库作者把 17 个 Notebook 组织成 5 个递进的主题,建议按这个顺序读:
Part 1 · 基础增强(01-04)
让单个 Agent 变强:Reflection 提升质量 → Tool Use 连接世界 → ReAct 动态循环 → Planning 增加预见性。
Part 2 · 多智能体协作(05、07、11、13)
Multi-Agent 引入分工 → Meta-Controller 做智能路由 → Blackboard 提供灵活共享空间 → Ensemble 用并行多视角降低偏差。
Part 3 · 高级记忆与推理(08、09、12)
Episodic + Semantic 模拟”人类记忆” → Graph World-Model 实现多跳推理 → Tree of Thoughts 系统化探索解空间。
Part 4 · 安全、可靠与现实交互(06、10、14、17)
Dry-Run 提供人机回环 → Mental Loop 三思而后行 → PEV 自动纠错 → Metacognitive 让 Agent 认识自身边界。
Part 5 · 学习与进化(15、16)
Self-Improvement 模拟 RLHF 的自我打磨 → Cellular Automata 展示”局部简单 → 全局智能”的涌现之美。
如何把它用到工作里
-
选型参考:遇到新业务需求时,先对照这 17 种模式判断”我到底需要哪种 Agent”,避免一上来就堆复杂方案。
-
代码模板:每个 Notebook 都可作为最小可行原型(MVP)的起点,把 prompt 与工具替换为业务实现即可。
-
评估方法论:把
LLM-as-a-Judge模式抄进自己的项目,是给 Agent 上线前最低成本的”质量门禁”。 -
教学材料:适合在团队内做 17 期 Agent 读书会,每期一个 Notebook,1 小时讲完 + 跑通 + 讨论。
一句话总结
如果你想系统理解”现代 AI Agent 到底有哪些设计模式、各自适用什么场景、用 LangGraph 该怎么写”——这是目前最值得花一个周末跑完的一个仓库。