深刻理解AI 第20讲——智能体：规划、记忆、反思与自主循环

访问DeepWrite

排版设置

在这里统一调整字体、字号、目录停靠位置和正文显示方式，不挤占右上角工具条。

字体

字号

目录层级

目录停靠位置

决定目录固定在左侧还是右侧，方便按手势习惯或演示场景调整。

正文显示方式

决定正文是否保留独立阅读卡片背景；关闭后正文会更贴近整页背景。

中文长文先试中文经典；英文长文先试 English Essay。目录默认显示到 H2，可按需要扩到 H4；目录位置和正文显示方式也可以在这里统一调整。

朗读菜单

直接在 HTML 页面内朗读，下载文件和独立分享页都可使用。这里只保留最少功能。

当前状态：未开始

语音

语速 0.82x

高亮级别

浏览器支持时会记住上次朗读位置。

全屏专注式阅读说明

这页优先保留鼠标与触摸操作，让阅读、选词、点击链接和查看目录互不打扰。

单击正文空白区：同时显示或隐藏主题区和目录。
开始滚动正文：自动进入专注态，减少阅读时的视觉干扰。
双击正文空白区：进入或退出全屏专注式阅读状态。
全屏专注时，按 Esc 或点击“退出全屏专注”：退出全屏。

第20讲智能体：规划、记忆、反思与自主循环

上一讲我们把模型从"会说"训练成了"能办事"——通过工具调用，它能在你的代码执行下查订单、发消息、跑查询。但那仍是"一问一答一动作"的确定路径。真实世界里很多任务不是一步能解决的：让助手"帮我安排一次下周去上海的出差，订好机票酒店、把行程同步给团队、预算不超五千"，这需要查日历、比价、下单、发通知，且中间任一步失败都要调整。这种多步、需自规划、要根据结果回头改的任务，靠单次工具调用接不住，得让模型自己"转起来"——这就是智能体（Agent）。

核心问题：当任务需要模型自己规划步骤、连续调用多个工具、根据观察反思调整时，它怎么运转？自主循环既放大能力，也放大风险，边界该划在哪？本讲讲清 Agent 的循环结构、记忆与反思机制，以及它在工程上真正的难处。

本讲处理三个重点：第一，Agent 的"思考—行动—观察"自转循环长什么样；第二，记忆与反思为什么是它区别于"多工具串联"的关键；第三，在真实项目里，什么时候该上 Agent、怎么给它套上缰绳。

一、场景钩子：一次"自己跑起来"的出差安排

回到那个出差任务。如果是单次工具调用，你得把每一步都写死："先查日历，再搜机票……"——可下周哪天空、预算怎么分配、酒店离会场多远，这些不确定，你写不活。Agent 的思路不同：你只给目标，它自己拆解成子步骤，先查你日历找空档，再带着空档去比价，发现超预算就换日子或换酒店，订完再把行程整理成消息发出去。整个过程中模型在"自己跟自己对话"：每一步它先想"我现在该做什么"，再决定调哪个工具，看到结果后再想"下一步"。

但这个"自己跑起来"也最让人不安：万一它把"预算不超五千"理解成"人均五千"而订了两人一万的套房呢？万一比价时卡住，它开始在原地空转、反复调用烧光额度呢？万一它发通知时把内部价泄露给外部群呢？单次调用出错，你拦得住；Agent 自转出错，可能等你发现时动作已经做了一串。 所以理解 Agent，既要看它强在哪，更要看怎么不让它"疯"。这就是本讲的主线。

二、原理讲透：Agent 是一个"思考—行动—观察"的自转循环

Agent 的核心结构，业界常叫"思考—行动—观察"循环（ReAct 范式）。把它拆开看：

思考（Thought）。模型基于"目标 + 已发生的事"生成一段内部推理：我现在处在哪一步、还差什么、下一步该调哪个工具、传什么参数。这和我们在第17讲讲的思维链一脉相承——Agent 把"难任务"在上下文里重构成一串小步。

行动（Action）。思考的结果，是调用一个工具（上一讲讲的机制）：查日历、搜机票、发消息。注意，行动依旧是"模型提议、代码执行"，Agent 不改变工具调用的安全分工，只是把"何时调"的决定权交给了循环本身。

观察（Observation）。工具返回结果（航班列表、酒店空房、发送成功），作为新的上下文喂回模型。模型读进这个结果，进入下一轮思考。

这三步不断自转，直到模型判断"目标达成"或"无法达成"才停下。所以 Agent 不是某个新模型，而是把第11讲讲的"预测下一个 token"、第13讲讲的"上下文学习"、第19讲讲的"工具调用"缝成的一条自主流水线：每一步仍是预测 token，但串联起来，就能完成单步做不到的长任务。

原理落点：Agent 的本质，是把"预测下一个 token"的能力，通过"思考—行动—观察"循环持续喂回自身上下文，从而在没有人类逐步干预的情况下，自主逼近一个开放目标。它的力量来自循环的"自举"——每一步的观察都成为下一步思考的原料；它的脆弱也来自同一处——一旦某步思考出错，错误会顺着循环自我放大，而不是被人类及时截断。

这里必须讲清两个让 Agent "像 Agent"的机制：记忆与反思。记忆分两层——短期记忆就是当前上下文窗口（装着目标、已做步骤、观察），长期记忆是外部存储（比如把过往对话、用户偏好、世界知识存进向量库），让 Agent 跨会话"记得"东西，而不必全塞进上下文。反思则是模型在观察后显式评估："上一步成功了吗？结果可信吗？要不要换条路？"——这相当于给循环加了一个"自检阀"，避免一条错路走到黑。没有反思的 Agent，只是“多工具串联”；有反思，才叫“会自己纠偏”。

这套机制的根基，仍是第1讲讲的表示神经：目标、步骤、观察都要被编码进同一个表示空间，循环才能在“想”与“做”之间顺畅切换——若某类观察（比如一张图、一段语音）无法被干净地编码进这个空间，Agent 就会在它面前“失明”。所以多模态能力（下一讲）直接决定了 Agent 能感知世界的边界。

三、来龙去脉：从"工作流"到"能自己想的助手"

在 Agent 之前，企业里多步任务靠固定工作流：用代码把步骤和分支写死（if 机票贵了就换日子）。它可靠、可控，但僵硬——任何没料到的变体都得工程师改代码。Agent 的范式转折在于：把"步骤怎么走"从代码里解放出来，交给模型在运行时临场决定。这和第18讲 RAG（知识外置）、第19讲工具调用（能力外置）是同一思潮的延伸：把越来越多"原本写死的东西"变成"模型按需调用"。

但这条线也踩过坑。2023年前后第一批 Agent demo 很惊艳，落地却常翻车：循环跑飞、成本失控、在错误前提上反复重试。人们这才意识到，Agent 的难不在"能不能转"，而在"怎么让它转得对、转得省、转得停得下来"。这把第15讲讲的对齐问题推到了最前沿——对齐不再只是"单句回答别越界"，而是"一长串自主动作整体别跑偏"。下一讲（多模态）会让 Agent 的"感知"更丰富，但感知越丰富，跑偏的素材也越多，缰绳更要扎紧。

四、破除误解：三个关于 Agent 的常见误读

误解一："Agent 是自动万能工，给个目标就能搞定一切。" 现实很骨感。Agent 在"路径相对清晰、工具有界、失败可观察"的任务上强（如带约束的检索汇总、固定流程的自动化）；一旦目标模糊、工具开放、成败难判定，它极易跑偏或空转。它放大的是"已有能力的自主组合"，不是"凭空长出新能力"。别把它当魔法，先想清楚你的任务到底属哪类。

误解二："让 Agent 多转几轮、循环越久越好。" 恰恰相反。循环越长，错误累积和成本膨胀越凶：一步思考偏差，后续全错；每轮都烧 token 和接口费，跑飞时账单先到。工程上必须设步数上限、预算上限、无进展就中止——Agent 不是"转得久才聪明"，而是"在该停的地方停得干脆"才靠谱。

误解三："把公司所有工具都挂给 Agent，它就能干所有活。" 工具一多，模型在"选哪个"上更犹豫、更易错配（第19讲讲过），尤其描述相似的工具会互相干扰。正确做法是按场景分层挂载、给每个工具钉死触发条件、对高后果工具保留人工确认闸。Agent 的威力来自"恰到好处的工具集"，不是"全武行"。

五、实践影响：在真实项目里，Agent 该怎么决策

这一段是重头戏。把 Agent 翻译成你能落地的具体决策。

决策一：先问"这任务非 Agent 不可吗"，能不用就不用。 我的硬性建议：凡能用确定工作流或单次工具调用解决的，别上 Agent。Agent 适合"路径在运行时才清楚、需根据中间结果临场决策"的开放任务（如跨系统调研、带约束的编排）。如果你只是"查 A 再查 B 再汇总"，写死工作流更稳更便宜。上 Agent 是加火力也是加风险，先确认值得。

决策二：给循环套三道缰绳——上限、检查点、可中断。 步数上限（如最多 15 轮）和预算上限（如单次任务封顶花费）是底线；关键节点设人工检查点（动真钱、发对外消息前停一下等人确认）；全程可中断、可回滚（出错能撤销已做动作）。没有这三道，Agent 上线就是裸奔。

决策三：把"什么进长期记忆"当架构问题设计。 不是所有上下文都该进长期记忆——只存跨会话有用的（用户偏好、项目背景、失败教训），且要带时间戳与来源，避免陈旧记忆误导当下。短期记忆（上下文窗口）则要管理：过长会稀释重点、推高成本，可用"摘要压缩"把已完成的步骤压成简短记录，腾出空间给新观察。

决策四：把反思与自检写进循环，而非指望模型自觉。 显式要求模型每轮输出"上一步成败判断 + 下一步理由"，并把"连续 N 轮无进展""结果明显矛盾"设为中止信号。这相当于在循环里内置第16讲讲的"防幻觉"意识——Agent 在错误前提上空转，往往是因为它从不对自己的中间结论存疑。让它在观察后先质疑自己，比让它一路冲到底安全得多。

决策五：可观测与回放是上线前提，不是事后补。 每一次思考、行动、观察都要留结构化轨迹，出问题能逐帧回放——否则 Agent 犯了错你连"它哪步想歪了"都查不清。同时监控成本与失败率，设告警。Agent 的调试难度远高于单次调用，没有观测就等于蒙眼开自动驾驶。

决策六：为 Agent 设专门的评估，而不是拿单轮问答的指标糊弄。 单次问答看准确率就行，Agent 要看"整条链路是否达成目标、走了几步、花了多少、在哪一拐弯出错"。做法是准备一批带预期终态的任务做回归，记录成功率、平均步数、平均成本，并刻意放"会诱导跑偏"的对抗样本。Agent 的能力曲线和失败模式都和多步有关，用单轮指标评估它，等于用百米成绩评价马拉松选手。

实践落点：Agent 在你产品里的正确姿势是"慎用的重火力"——先用确定工作流/单次调用解决确定路径，只有开放多步任务才上 Agent；上线必带步数/预算上限、人工检查点、可中断可回滚三道缰绳；长期记忆只存跨会话有用的并带来源时间戳；把反思与自检写进循环、把可观测回放当前提。记住：Agent 的价值在"自主"，风险也在"自主"，缰绳比火力更重要。

六、承前启后：一句话记住

本讲我们看清了：Agent 是把"预测下一个 token、上下文学习、工具调用"缝成的一条"思考—行动—观察"自主循环，靠记忆与反思区别于普通多工具串联。它放大能力，也放大错误与成本——所以工程上难的不是"让它转"，而是"让它转得对、转得省、停得下来"。

一句话记住：Agent 不是更聪明的模型，而是会自己转的流水线——它的威力在自主，风险也在自主，缰绳比火力更要紧。

下一讲我们要给这个"会转的助手"装上更丰富的"眼睛"：当模型不只读文字，还能看图片、听语音、懂视频时，它的表示空间要如何把多模态统一进来？多模态将让 Agent 的感知与行动都更立体，也带来新的对齐难题。

（三根神经回扣）Agent 最集中地体现了泛化神经：它之所以能应付没写死的开放任务，靠的正是模型把训练中学到的"规划、调用、纠错"能力泛化到千变万化的具体路径上。它也把对齐神经推到最前沿——一长串自主动作整体不跑偏，正是对齐在行动层的终极考题；而记忆与规划的根基，仍是第1讲讲的表示神经：要把目标、步骤、观察都编码进同一空间，循环才能"想得清"。理解这三根神经，你就看清了 Agent 为何既强又需缰绳。