让模型“查一下今天北京的气温,再告诉我该不该穿外套”,它无法在一轮回答里直接完成这项任务——因为模型自己不会发请求去查天气。真正把这条请求变成结果的,是包在模型外面的那层运行时环境,叫 harness。harness 反复做三件事:调用模型、执行模型要用的工具、把执行结果回填进上下文,再让模型接着推理,直到模型给出最终答案。这个反复的过程就是执行循环,业界常叫 agent loop。它是 agent 能“多步完成一件事”的骨架:工具、记忆、完全护栏这些机制,都挂在这个循环上。
从一次回答到多步任务:为什么需要循环
模型只做一件事:根据输入预测并返回文本。给一段输入,它返回一段文本,仅此而已。它不会自己打开浏览器查天气,不会读文件,也不会记住上一轮说过什么。
但“查气温决定是否穿外套”这个任务,仅靠一次输出无法完成。用户想要的是最终建议——穿外套还是不穿外套——而给出建议需要先知道气温。模型不知道实时气温,这不在它的训练参数里。于是任务被拆成两步:先拿到当前气温,再根据气温给建议。
问题在于,第一步的结果不在模型的输入里。如果 harness 只调用模型一次,模型只能输出“我想调用天气工具”,这个调用意图本身不是答案。要得到答案,必须有人把天气工具的结果拿回来,再交给模型,让模型基于这个新信息推理出建议。
harness 就是那个“有人”。它执行模型请求调用的工具,再把工具结果回填进上下文,如此反复,直到模型不再要求调用工具、而是直接给出答案。这就是循环存在的第一个理由:模型一次输出不足以完成多步任务,而工具执行后的新信息只有回填进上下文,模型才看得到。
就像请一位只能通过纸条交流的顾问出主意:顾问先写下需要查询的信息,助手去查,再把结果写在纸条上送回来,顾问才能据此继续判断。模型像顾问,harness 像助手;写下“请去查一下”,并不等于已经拿到了查询结果。
agent loop:推理、行动、观察的往复
这个循环有固定三步:推理(Reasoning)、行动(Acting)、观察(Observing)。
- 推理:模型看当前上下文,决定下一步做什么——是调用某个工具,还是直接回答。
- 行动:harness 识别出模型输出的工具调用请求,真正去执行这个工具。
- 观察:工具执行的结果被回填进上下文,模型“看到”了这个结果,进入下一轮推理。
如果模型请求调用工具,harness 就执行工具并回填结果,再进入下一轮推理;如果模型直接给出最终答案,循环就结束。
就像大厨指导做菜:大厨根据当前情况提出下一步操作,厨房里的人执行,再把结果发回来;大厨看到反馈后,决定是要调整还是可以出锅。大厨对应模型,厨房里的人对应负责执行工具、传回结果的 harness;反馈对应回填进上下文的工具结果。
注意分工:模型只负责推理和决策,真正动手执行工具的从来都是 harness。模型输出的“调用天气工具”只是一个请求,不是动作本身。

整个循环可以用一个 while 循环概括:
messages = [{"role": "user", "content": 用户任务}]
while 任务未完成:
response = 调用模型(messages) # 推理:模型给出文本或工具调用
messages.append(response) # 记录模型响应及其中的工具调用请求
if response 是最终答案:
break # 停止:任务完成
for 每个工具调用 in response:
结果 = harness 执行(工具调用) # 行动
messages.append(结果) # 观察:把结果回填进上下文
这正是“用 while 循环包裹模型”的写法:harness 在循环中维护历史消息,追加每一轮的新结果,供模型在下一轮推理时使用。
一个问答的完整流程
把“查气温决定是否穿外套”拆到最细,一个完整的流程一共六步:
- 组装提示:harness 把系统指令、用户请求,以及“模型可以调用哪些工具”的说明(工具 schema)拼成一次请求,发给模型。
- 模型输出:模型返回一个工具调用请求,比如“调用 get_weather,参数是城市=北京”。
- 识别调用:harness 从模型的输出里解析出“要调用 get_weather、参数是北京”。
- 执行:harness 真正去调用天气接口,拿到结果,比如“气温 8°C,有风”。
- 回填:harness 把“气温 8°C,有风”追加进对话历史,作为新一轮输入的一部分。
- 再调用:harness 再次调用模型,模型这次基于气温给出最终建议:“8°C 有风,建议穿外套。”

第六步之后,模型输出的是最终答案而不是新的工具调用,循环结束。
关键在于第五步。如果 harness 不把结果回填,模型在下一轮仍然不知道气温是多少,可能瞎编一个数,也可能再次请求调用同一个工具,在原地打转。回填是循环里让模型“获得新信息”的唯一通道。
三种停止条件:让循环知道何时停下
循环不能无限转下去,它需要明确的出口。停止条件有三类:
- 任务完成:模型输出最终答案,而不是继续请求调用工具。这是最正常的出口,防止模型在任务已经做完后还继续调用工具做无用功。
- 轮次上限与成本上限:harness 预设一个最大轮次或最大花费,达到就强制停下。它防止模型陷入“反复调用同一个工具、永远给不出答案”的死循环,无休止地烧 token。一旦陷入死循环,没有这些上限,harness 就可能持续运行、消耗 token,直到有人手动终止进程。
- 人工中断:用户在发现 agent 跑偏时主动终止。用户可以随时踩刹车,防止 agent 朝错误方向越走越远。

前两类由 harness 自动判断,第三类靠人介入。它们各自防的是不同的问题:任务完成防止“无意义地继续”,上限防止“无限烧 token”,中断防止“跑偏失控”。
工具、记忆与安全护栏如何参与循环
说循环是 harness 的骨架,是因为其他机制都挂在这个往返的具体环节上。
可以把它想成一个反复接单、办理、登记结果的服务台:办理时使用的设备对应工具,持续更新的记录簿对应这里维护的对话历史,办理前的权限检查对应完全护栏。三者分别在流程的不同位置发挥作用。
- 工具挂在“行动”环节。harness 能执行哪些工具、怎么执行,决定了 agent 能做什么。
- 记忆挂在“回填”和“上下文”环节。harness 维护对话历史、记住用过哪些工具、结果是什么,靠的就是每一轮把结果写进上下文。模型本身无状态,agent 之所以能跨多步工作,靠的就是这个循环里持续维护的上下文。
- 完全护栏挂在“行动”之前。模型请求一个动作时,harness 在真正执行前先校验权限,检查该工具调用是否获得授权,阻止越权或破坏性动作。
工具、记忆和完全护栏分别作用于循环的不同环节;上一章的停止条件则决定循环何时结束。把这些环节和出口联系起来,才能看清 harness 如何组织模型完成多步任务。
评论