17 种现代 AI Agent 架构实战手册

17 种现代 AI Agent 架构实战手册

一份面向工程师的”AI Agent 架构活教材”——把论文里的概念,全部落成可运行的 LangGraph 代码。


项目是什么

all-agentic-architectures 是一个教学型开源仓库,用 17 个独立的 Jupyter Notebook,端到端实现了当前最具代表性的 17+ 种 AI Agent 架构。每个 Notebook 都是一份”独立可跑、配套讲解、自带评估”的完整 Demo。

技术栈统一为(详见 en/README.md 的 Technical Stack 表):

  • Python 3.10+

  • LangChain:与 LLM、工具交互的基础积木

  • LangGraph:构建有状态、可循环 Agent 工作流的核心编排框架

  • Nebius AI Models(例如 Mixtral-8x22B-Instruct-v0.1):驱动 Agent 推理的高性能 LLM

  • Pydantic:保证与 LLM 通信时数据结构稳健可靠

  • Jupyter Notebook:用于交互式开发与逐步讲解

  • Tavily Search:研究型 Agent 用的搜索工具

  • Neo4j:实现语义记忆与世界模型的图数据库

  • FAISS:通过相似度搜索实现情节记忆的向量库


为什么值得看

市面上 Agent 资料要么是论文(太抽象),要么是 Demo(只展示一种模式)。这个仓库的差异化在于:

  1. 从理论到可运行代码:每种架构都不是 PPT,而是一个可以 jupyter notebook 直接跑通的工作流。

  2. 结构化学习路径:17 个 Notebook 按由浅入深排序,从单 Agent 增强 → 多 Agent 协作 → 高级记忆与推理 → 安全可靠 → 自我进化。

  3. 强调评估(LLM-as-a-Judge):几乎每个 Notebook 都包含一个”评委 LLM”,对 Agent 输出做量化打分——这是工业界落地最缺的一环。

  4. 场景贴近真实业务:金融分析、代码生成、社媒运营、医疗分诊……不是 toy example。

  5. 统一框架:全部基于 LangGraph 的有状态、循环图,学完一套范式可迁移到所有场景。

17 种架构详解

下面按 Notebook 顺序,对每种架构给出:定义、核心工作流、典型应用、优势与劣势。


Reflection(反思)

定义:Agent 在给出最终答案前,先批判并修订自己的初稿。把”一次过的生成器”升级为”生成 → 自评 → 改写”的多步内部独白。

核心思想:从”单次生成器”变为”多步推理器”,agent 对自己的输出进行自我批评和改进

核心工作流:① Generate 初稿 → ② Critique 找问题 → ③ Refine 输出改进版。

关键要点:让 LLM 成为自己的批评者,通过内在反馈循环提升输出质量。

典型应用:代码生成与审查、复杂摘要、创意写作。

优势:① 直接纠正错误,质量显著提升;② 概念简单,单个 LLM 即可实现。

劣势:① 自我偏见——批评者和生成者是同一个 LLM,盲区相同;② 至少两次 LLM 调用,延迟与成本翻倍。

Tool Use(工具调用)

定义:赋予 LLM 调用外部函数 / API 的能力,由 Agent 自主决定何时用哪个工具,突破知识截止与”与世隔绝”的限制。

核心思想:Agent 通过调用外部 API 和函数,克服知识截断并与真实世界交互。

核心工作流:① 收到 Query → ② 判断是否需要工具 → ③ 格式化并调用工具 → ④ 观察返回结果 → ⑤ 综合信息给出最终答案。

关键要点:工具是 agent 的”手和眼”,让它超越训练数据的局限。

典型应用:实时联网研究助手、查询企业内部数据库、精确数学/科学计算。

优势:① 用真实数据大幅减少幻觉;② 加新工具即扩展能力,扩展性强。

劣势:① 工具集成与 API 管理成本高;② 答案质量受工具可靠性制约。

ReAct(Reason + Act)

定义:把”思考(Thought)“与”行动(Action)“交错放进一个循环——产生想法 → 执行动作 → 观察结果 → 用观察驱动下一个想法,形成动态自适应循环。

核心思想动态交替推理(Thought)和行动(Action),形成自适应循环。

核心工作流:① 接收目标 → ② Think → ③ Act → ④ Observe → ⑤ 重复直到目标达成。

为什么重要

每一步推理都基于前一步观察

可以动态调整策略

处理多跳推理和复杂问题链

典型应用:多跳问答、网页导航与研究、动态环境中的交互式工作流。

优势:① 可在执行中临场调整计划;② 擅长有依赖关系的多步任务。

劣势:① 多轮串行 LLM 调用,延迟与成本高;② 可能陷入重复循环。

Planning(规划)

定义:在执行前显式地把复杂目标拆解为一份有序的子任务清单,然后按部就班执行。

核心思想:在执行前主动将复杂任务分解为详细的逐步计划。

核心工作流:① 收到目标 → ② Planner 生成有序子任务 → ③ Executor 顺序执行每一步 → ④ Synthesize 汇总结果。

关键要点:规划提供结构化和可追踪性,是生产环境中的关键能力。

典型应用:多步数据流水线(取数 → 处理 → 摘要)、项目管理助手、教学课程生成。

优势:① 结构化、可追溯、易调试;② 避免无谓的推理循环,效率更高。

劣势:① 计划固定,环境变化时容易失败;② 适应性不如 ReAct。

Multi-Agent Systems(多智能体系统)

定义:把任务分给一组各有专长的 Agent,由中央控制器调度通信与路由,多人协作完成共同目标。

核心思想:一组专业化 agent 分工协作,实现比单一 agent 更优的深度、质量和结构。

核心工作流:① 任务分解 → ② 角色分配(给专家 Agent)→ ③ 协作(传递输出或写入共享空间)→ ④ 由 Manager Agent 汇总最终结果。

架构特点

每个 agent 有明确的角色和专长

Agent 之间通过消息或共享状态通信

可以有层级结构或平等结构

典型应用:跨领域复杂报告生成、软件开发流水线(产品/开发/测试角色)、创意头脑风暴(多人设并行)。

优势:① 专精带来深度;② 模块化、可增可减;③ 可并行执行。

劣势:① 通信与协调成本高;② LLM 调用更多,成本与延迟上升。

PEV(Plan → Execute → Verify)

定义:在 Plan-Execute 之上增加显式 Verifier,每一步执行结果都先校验再继续,形成可自我纠错、可恢复的鲁棒回路。

核心工作流:① Plan 拆步 → ② Executor 调用工具执行下一步 → ③ Verifier 校验结果 → ④ 成功则继续,失败则带上下文回到 Plan 重新规划。

核心思想:一个高度鲁棒的自纠正循环,Verifier agent 检查每一步执行结果。

Plan → Execute → Verify → (失败) → Re-plan → Execute → Verify → (成功) → 继续
                    ↑                                            ↓
                    └────────────────────────────────────────────┘

为什么重要

错误检测:Verifier 独立验证执行结果

动态恢复:失败后自动重新规划,而非直接崩溃

适用于不可靠环境:外部工具可能出错、API 可能超时

典型应用:金融/医疗等安全关键场景、不稳定工具系统(不稳定的第三方 API)、法律 / 科研等高精度任务。

优势:① 鲁棒可靠,能发现并恢复错误;② 关注点分离,易于调试。

劣势:① 校验步骤额外增加 LLM 调用,延迟与成本上升;② 设计一个好的 Verifier 本身有挑战。

Blackboard Systems(黑板系统)

定义:多名专家 Agent 通过一个中央共享数据存储(“黑板”)协作,由动态 Controller 观察黑板状态,决定下一步激活哪位专家——是一种”机会式”协作。

核心思想:Agent 通过**共享中央记忆(黑板)**进行机会主义协作,由动态控制器引导。

核心工作流:① 维护共享 Blackboard → ② 一组独立专家监控黑板 → ③ Controller 分析状态决定下一位专家 → ④ 被选中的专家读取黑板、完成任务、写回结果 → ⑤ 迭代直到问题解决。

架构:

┌─────────────┐
         │  Controller  │  ← 动态调度
         └──────┬───────┘

    ┌───────────┼───────────┐
    │           │           │
┌───▼───┐  ┌───▼───┐  ┌───▼───┐
│Agent 1│  │Agent 2│  │Agent 3│
└───┬───┘  └───┬───┘  └───┬───┘
    │           │           │
    └───────────┼───────────┘

         ┌─────▼─────┐
         │ Blackboard │  ← 共享记忆
         └───────────┘

与传统多 Agent 的区别

Agent 不直接通信,都通过黑板读写

Controller 决定谁在什么时候工作

灵活性极高,适合动态问题

典型应用:复杂、结构不良的诊断与探索问题;多模态系统(文/图/代码混合处理);异步数据源的动态推理。

优势:① 工作流由问题本身涌现,极其灵活;② 模块化,易增减专家。

劣势:① 整个系统的智能高度依赖 Controller 的质量;② 非线性流程,调试与追踪困难。

Episodic + Semantic Memory(情节 + 语义记忆栈)

定义:同时维护两类长期记忆——情节记忆(向量库存对话/事件流水)+ 语义记忆(图数据库存结构化事实),实现真正的长程个性化与学习。

核心思想:双记忆系统,结合两种不同性质的存储。

架构:

核心工作流:① 交互 → ② 检索(向量搜相似对话 + 图查询相关事实)→ ③ 把检索到的记忆注入 Prompt → ④ 把当次对话编码为情节摘要、抽取语义事实 → ⑤ 写回向量库 / 图库。

典型应用:长期个人助理;电商 / 教育的个性化推荐;构建知识图谱的研究型 Agent。

优势:① 真正的长期个性化,上下文不再丢失;② 图结构支持复杂关系推理。

劣势:① 工程复杂度显著提升;② 记忆膨胀问题——必须有剪枝与归并策略。

Tree of Thoughts(思维树)

定义:把解题过程建模成一棵树,Agent 并行探索多条推理路径(分支),评估每条分支的可行性,剪掉无望分支、扩展有希望分支,系统性搜索最优解。

核心思想:通过树结构探索多条推理路径,评估并剪枝分支,找到最优解。

核心工作流:① 把问题分解为多步 → ② 在每一步生成多个候选下一步(分支)→ ③ Critic 评估每个分支的有效性、进度、启发式分 → ④ 剪枝与扩展 → ⑤ 直到找到解。

与 Chain-of-Thought 的区别

Chain-of-Thought:  A → B → C → D  (线性)
Tree of Thoughts:       A
                      / | \
                     B  C  D    (分支探索)
                    / \     \
                   E   F     G

典型应用:逻辑谜题与数学题、有顺序约束的复杂规划、创意写作或代码生成。

优势:① 系统化探索解空间,鲁棒性强;② 能处理组合爆炸式的复杂度。

劣势:① 计算量大,LLM 调用与状态管理都重;② 强依赖评估函数的质量。

Mental Loop / Simulator(心智模拟器)

定义:在真正执行前,先在内部模拟环境里”预演”几步,观察可能后果,再决定要不要在现实里执行——本质是”三思而后行”。

核心思想:Agent 在内部”心理模型”中模拟行动,预测结果并评估风险,然后再执行

核心工作流:① Observe 当前状态 → ② 提出高层动作策略 → ③ 在沙箱里 fork 环境、应用动作、向前演若干步 → ④ 评估结果、改进策略 → ⑤ 在真实环境执行 → ⑥ 从新状态再循环。

典型应用:机器人抓取/路径规划、金融/医疗等高风险决策、需要 multi-move lookahead 的游戏 AI。

关键价值

零风险探索:在心理空间中试错,不影响真实世界

风险预判:在行动前就知道可能的负面后果

适用于物理世界交互

优势:① 在安全沙箱里先验证动作,显著降低风险;② 决策更深思熟虑,质量更高。

劣势:① 存在 Sim-to-Real Gap,效果取决于模拟器保真度;② 多场景模拟开销大。

Meta-Controller(元控制器 / 智能路由)

定义:一个上层”指挥官”Agent,分析进来的任务,把它分派给最合适的专家子 Agent。本质上是 Agent 池之上的一层智能路由。

核心思想:一个监督 agent分析输入任务并路由给最合适的专业子 agent。

核心工作流:① 接收输入 → ② Meta-Controller 分析意图、复杂度、内容 → ③ 选出最佳专家 → ④ 专家执行任务 → ⑤ 返回结果。

关键设计

Meta-Controller 不执行任务,只负责分类和路由

每个 Specialist 在自己的领域深度优化

可以根据任务复杂度动态选择 agent

典型应用:多服务 AI 平台、覆盖日程/网页/智能家居的自适应个人助理、工单路由等企业工作流。

优势:① 灵活模块化,新增专家很容易;② 用一群高度专精的小专家替代”什么都会但都不精”的大通才。

劣势:① Controller 是单点风险,路由错就一错到底;② 多了一层路由,延迟增加。

Graph / World-Model Memory(图世界模型)

定义:把知识以”节点(实体)+ 边(关系)“的形式存进图数据库,形成一个动态的”世界模型”,从而支持非结构化文本难以胜任的多跳推理。

核心思想:将知识存储为实体和关系的结构化图,支持多跳推理。

核心工作流:① 摄入非结构化数据 → ② LLM 抽取实体与关系 → ③ 在图数据库中增/改节点与边 → ④ 把问题翻译成图查询、执行、综合返回。

典型应用:企业知识助理、高级研究助理、复杂系统的故障诊断。

优势:① 结构化、可解释,答案路径可追溯;② 擅长多跳关系推理。

劣势:① 需要设计良好的 schema,前期复杂度高;② 图的更新、冲突解决、剪枝长期维护成本高。

Ensemble(并行探索 + 集成决策)

定义:把同一个问题同时丢给多个具有不同人设/视角的独立 Agent,再由一个 Aggregator 通过投票或综合得出最终结论——类似”专家会诊”。

核心思想:多个独立 agent 从不同视角分析,聚合器综合输出,获得更稳健、偏差更小的结论。

核心工作流:① Fan-out:问题分发给 N 个独立专家 → ② 每个专家独立完成完整分析 → ③ Fan-in:收集所有输出 → ④ Aggregator 加权综合,给出最终答案。

典型应用:复杂、含糊的硬推理问答;事实核查与验证;医疗、金融等高风险决策支持。

优势:① 平均掉随机错误,可靠性与准确率显著提升;② 单个 Agent 幻觉时,其它人不太会同步幻觉,降低风险。

劣势:① 成本极高,LLM 调用按集成规模倍增;② 延迟取决于最慢的那条路径。

Dry-Run Harness(试运行护栏 + 可观测性)

定义:拦截 Agent 的真实动作,先在 dry-run 沙箱里执行一遍并产出日志/计划,经过人工或自动审查批准后,才在生产环境真正执行。

核心思想:Agent 的动作先在沙箱中模拟执行,必须通过审批后才能真实执行

核心工作流:① Agent 提出动作 → ② 以 dry_run=True 调用工具,收集日志 → ③ 汇总可观测数据 → ④ 人工/自动 Reviewer 审查正确性、安全性、对齐性 → ⑤ Go / No-Go 决策 → ⑥ 批准后以 dry_run=False 真实执行。

与 Mental Loop 的区别:

典型应用:Agent 的调试与测试、生产前验证与安全门禁、Agent 的 CI/CD。

优势:① 透明、安全、留下完整审计链;② 排查问题时不需要”撤销操作”。

劣势:① 强制审查会拖慢部署;② 要求底层工具必须支持 dry-run 模式。

Self-Improvement Loop(自我改进 / RLHF 类比)

定义:Agent 自评或由 Critic 评价输出,反馈用于产生更高质量的修订版;优质输出沉淀下来,长期看相当于在做”轻量 RLHF”。

核心思想:Agent 的输出被”编辑”agent 批评,反馈驱动迭代修改,高质量输出被保存用于改进未来表现。

核心工作流:① 生成初稿 → ② Critic 按 rubric 打分 → ③ 判断是否达标 → ④ 未达标则把”草稿 + 反馈”送回继续修订 → ⑤ 达标则接受输出。

与传统 RLHF 的关系

借鉴 RLHF 的”从反馈中学习”理念

但使用 LLM 作为 Editor(而非人类标注)

高质量输出被存入记忆,形成”经验库”

典型应用:法律/技术/营销等高质量内容生成、需要持续学习与个性化的场景、复杂方案的方案-评审-修订循环。

优势:① 迭代精修显著提升输出质量;② 为”持续学习”提供框架。

劣势:① 如果 Critic 本身有偏见,会被反复强化;② 每个任务多次 LLM 调用,成本高。

Cellular Automata(元胞自动机 / 网格系统)

定义:在二维网格上部署大量简单、去中心化的 cell-agent,每个细胞只看相邻邻居的状态,按局部规则同步更新;全局智能行为从局部交互中涌现。

核心思想大量简单的、去中心化的网格 agent,通过局部交互产生复杂的涌现全局行为

核心工作流:① 初始化网格与每个 cell 的状态 → ② 设定边界条件(种子细胞)→ ③ 同步 tick:每个 cell 依据邻居计算下一状态 → ④ 信息像波一样在网格上传播 → ⑤ 系统稳定后从最终网格读出解。

典型应用:路径规划等空间推理与物流问题;火灾、传染病、城市生长等复杂系统模拟;可 GPU 加速的并行计算。

优势:① 天然高并行,速度极快;② 对环境变化反应灵敏;③ 用极简规则解决复杂问题,涌现之美。

劣势:① 设计”能产生期望全局行为的局部规则”非常反直觉;② 推理分散在网格上,可解释性弱。

Reflexive Metacognitive(元认知反思 Agent)

定义:Agent 维护一个关于”自己会什么、不会什么、有多大把握”的显式自我模型,并用它选择最稳妥的策略——在高风险领域尤其重要。

核心思想:Agent 拥有**“自我模型”,能够推理自己的能力和局限,决定是行动、使用工具还是升级给人类**。

核心工作流:① 感知任务 → ② 元认知分析:把请求对照自我模型,评估置信度、可用工具、领域契合度 → ③ 策略选择:Reason Directly / Use Tool / Escalate / Refuse → ④ 执行所选策略 → ⑤ 给出答案、工具增强答案,或安全地拒绝。

接收任务 → 自我评估:我能处理吗?
              ├── 能 → 执行
              ├── 需要工具 → 调用工具
              └── 超出能力 → 升级给人类

关键能力

  • 知道自己不知道什么:避免在能力范围外强行回答

  • 主动寻求帮助:识别何时需要人工介入

  • 能力边界意识:对高风险领域(医疗、法律、金融)尤为重要

典型应用:医疗、法律、金融等高风险咨询系统;需要在物理动作前评估安全性的自主系统;复杂工具编排器。

优势:① 显著提升安全性与可靠性,从设计上避免”自信地胡说”;② 主动选择策略,质量优于盲目尝试。

劣势:① 定义准确的自我模型本身很难;② 每个请求多一层元认知分析,延迟与成本上升。

推荐的学习路径

仓库作者把 17 个 Notebook 组织成 5 个递进的主题,建议按这个顺序读:

Part 1 · 基础增强(01-04)

让单个 Agent 变强:Reflection 提升质量 → Tool Use 连接世界 → ReAct 动态循环 → Planning 增加预见性。

Part 2 · 多智能体协作(05、07、11、13)

Multi-Agent 引入分工 → Meta-Controller 做智能路由 → Blackboard 提供灵活共享空间 → Ensemble 用并行多视角降低偏差。

Part 3 · 高级记忆与推理(08、09、12)

Episodic + Semantic 模拟”人类记忆” → Graph World-Model 实现多跳推理 → Tree of Thoughts 系统化探索解空间。

Part 4 · 安全、可靠与现实交互(06、10、14、17)

Dry-Run 提供人机回环 → Mental Loop 三思而后行 → PEV 自动纠错 → Metacognitive 让 Agent 认识自身边界。

Part 5 · 学习与进化(15、16)

Self-Improvement 模拟 RLHF 的自我打磨 → Cellular Automata 展示”局部简单 → 全局智能”的涌现之美。

如何把它用到工作里

  • 选型参考:遇到新业务需求时,先对照这 17 种模式判断”我到底需要哪种 Agent”,避免一上来就堆复杂方案。

  • 代码模板:每个 Notebook 都可作为最小可行原型(MVP)的起点,把 prompt 与工具替换为业务实现即可。

  • 评估方法论:把 LLM-as-a-Judge 模式抄进自己的项目,是给 Agent 上线前最低成本的”质量门禁”。

  • 教学材料:适合在团队内做 17 期 Agent 读书会,每期一个 Notebook,1 小时讲完 + 跑通 + 讨论。

一句话总结

如果你想系统理解”现代 AI Agent 到底有哪些设计模式、各自适用什么场景、用 LangGraph 该怎么写”——这是目前最值得花一个周末跑完的一个仓库。

评论