带团队的进阶:从解决问题到发现问题

好久没有写团队管理的文章了。今天写一下最近在思考到的一个问题。

我有一个习惯是会经常检查自己的日程,看看时间花在哪里了。

我会发现很多的时间都是在解决问题,不管是架构的问题,还是需求的问题,还是人的问题。你会发现自己很忙,也很充实,觉得自己发挥了作用。

我们一直讲 XXX左移,如测试左移,需求左移。问题也需要左移。

如果我们正在忙的这些事情下个月还会以相似的形式发生,思考一下我今天到底解决了什么问题?

从接到一个明确任务开始,延伸到问题尚未被准确描述的时候。

题目从哪里来

工程师接到一个任务,通常会先考虑约束。

吞吐量要达到多少,延迟要控制到什么范围,需要兼容哪些调用方,什么时候上线。约束越清楚,技术讨论越容易收敛。方案可以比较,工作可以拆分,结果也有验收标准。

进入管理岗位以后,麻烦在于:这些约束本身,也需要被检查。

假设业务提出,要把某个接口的响应时间减半。团队可以研究索引、缓存、并发和计算过程,也可以重新分配机器资源。这些工作都有工程价值。

但我会先追问:用户究竟在等待什么?

如果用户完成任务要经过多个环节,这个接口只占很小一部分时间,那么局部优化可能无法改变使用体验。如果等待主要发生在人工审核阶段,继续压缩服务端耗时,投入方向就需要调整。如果响应已经足够快,用户仍然反复提交,我们还需要检查状态反馈和操作流程。

这里没有贬低性能优化的重要性。问题在于,团队拿到的技术指标,是否足以代表想要改善的结果。

我经常和业务同学、商务同学以及其它提需求的人,你讲需求,不要讲方案。 因为很多人来把自己的方案当需求。

要求他们描述:谁遇到了什么困难,发生在什么条件下,造成了什么损失,现有证据是什么。

先不要写方案。

管理者需要对任务的来源负责。 方案评审只能检查给定题目下的解法,无法自动纠正题目本身。

扁鹊的难题

《鹖冠子·世贤》里,扁鹊评价兄弟三人的医术,将长兄排在最前,中兄其次,自己居后。长兄在疾病尚未显形时处理,中兄在病情轻微时处理,扁鹊的治疗动作更显著,名声也传得更远。

引用这个故事,我想表达的是其中的评价问题。

问题严重以后,损失是可见的,处理动作也是可见的。系统恢复了,业务继续运行了,参与者很容易理解这项工作的价值。

提前处理则有一个问题:我们无法直接观察那个没有发生的结果。

一个团队说,经过架构调整,避免了一次严重故障。这个说法可能成立,也可能只是把一种担忧包装成了成绩。没有发生故障,可能与改造有关,也可能因为流量没有达到预期,或者相关路径根本没有被触发。

「预防很重要」,但不会接受任何预防性投入。

假设有人提出,某项依赖存在单点风险,需要增加冗余。我希望看到的是:这个依赖失效后会影响哪些功能,现有替代路径是否可用,恢复需要什么条件,团队通过什么方式验证过。

随后才讨论增加冗余的成本,包括建设、切换、演练和持续维护。

故事中的医者似乎能够准确识别尚未显形的疾病。技术管理没有这种确定性。我们面对的是不完整的信息、会变化的业务,以及随时可能被新证据推翻的判断。

因此,观察到了什么,推测了什么,准备如何验证,判断错误时损失有多大。

发现得早,只有在判断质量和处理成本都合适的时候,才值得投入。

把症状写清

我们常常看到当一个问题刚被提出时,责任归属就已经确定了。这是不对的。

项目延期,于是执行力不足;线上出错,于是质量意识不够;评审反复,于是技术能力欠缺。这些解释很容易进入管理讨论,因为它们足够简短,也容易对应到熟悉的动作:催进度、加审核、做培训。

但它们经常缺少可以验证的内容。

以延期为例,我会先把工作过程拆开:需求什么时候达到可开发状态,编码用了多久,等待联调用了多久,返工发生在哪个阶段,验收条件是否改变过。

假设一个任务总共经历了两周,其中多数时间在等待依赖方确认接口。此时要求开发人员提高编码效率,无法覆盖主要损失。继续增加进度会议,还会占用原本可以用于协调和实现的时间。

不过,看到等待时间很长,也不能立即宣布「跨团队协作有问题」。

等待可能来自接口定义不清,也可能来自对方没有资源,还可能因为我们过早启动了一个条件尚未具备的任务。几种情况需要不同的处理方式。统一加一个协调角色,可能只会多出一次信息转述。

可以使用如下的逻辑:已经观察到的事实,基于事实形成的解释,以及准备采取的动作。

例如,几个任务都在同一个依赖环节停留较久,这是事实;对方资源不足,这是待验证的解释;调整双方排期,是一种候选动作。把它们写在一起,会让后面的讨论默认接受前面的推测。

问题描述越接近可观察的行为,团队越容易讨论具体改动。把大量精力花在解释一个人「为什么不够负责」上,通常得不到能够验收的方案。

寻找提前信号

等到事故发生再分析,证据往往比较集中。寻找早期问题,面对的信号要模糊得多。

我会优先关注那些暂时没有形成损失,却持续依赖额外劳动才能维持的环节。

例如,告警频繁发生需要开发介入排查;每次发布都需要某个人手工确认;某类数据每天都要补一次;一个模块只有固定的人敢修改;项目能按时交付,但前提是临时取消测试或压缩验收。

这些现象还不足以证明系统即将失控,但值得进一步检查。因为当前结果里,包含了没有被正式记录的人工投入。

如果只看交付是否完成、服务是否可用,我就无法知道团队为维持这些结果付出了多少补偿性劳动。

我会让团队用较低成本记录几类信息:重复的人工操作、等待外部决定的时间、计划外的工作,以及必须依赖特定人员才能完成的事项。记录的目的,是找到重复出现的位置,不追求把每个人的一天切成几十个时间片。

粒度过细,记录会变成负担,数据也容易围绕考核要求失真。

技术系统的观察也需要类似的取舍。我不会因为担心遗漏,就要求所有路径全量记录详细日志。采样比例、保存时间、字段数量和查询需求,都需要对应到具体诊断问题,并给采集开销和存储费用设预算。

如果新增一组数据无法回答任何决策问题,我倾向于先不采集。

告警同样需要说明后续动作。某个指标越界以后,谁要介入,要判断什么,允许等待多久?回答不了这些问题的告警,我会先把它放进观察范围,避免直接打断值班人员。

提前发现需要足够的信息,却不能靠无限增加信息量完成。可以从几个高损失场景倒推:在结果恶化之前,我们有没有机会看到变化?现有信息能否区分不同原因?缺少的那部分,怎样以最小代价补上?

追问到哪一层

发现重复问题以后,很容易进入另一个极端:不停追问原因,直到得到一个足够宏大的解释。

一次发布失败,可以追到测试不足;测试不足,可以追到排期紧张;排期紧张,可以追到业务压力;最后写成「组织需要加强质量文化」。

讨论完成了,下一次发布怎么做,仍然没有答案。

建议把分析停在当前能够改变、能够验证的层次,同时记录更上层的约束。

假设某次故障涉及配置变更。恢复服务后,我希望继续弄清楚:配置是否经过校验,发布前能否发现异常,变更是否可以独立回退,为什么已有检查没有覆盖这条路径。

如果缺少校验,就讨论怎样增加校验。如果具备校验能力,却因为发布时间紧张被跳过,就需要检查绕过条件和批准权限。再往上,若每次承诺交付时都默认压缩验证时间,排期方式也要进入改进范围。

这几个层次可以同时存在。没有必要强行选出唯一的「根因」。

我更关心哪一项改动能切断已知的失败路径,哪一项能缩短恢复时间,以及哪些约束暂时只能接受。

增加发布审核,是一种常见选择,但我会谨慎使用。它需要持续占用审核者时间,也会让发布等待另一个人的判断。如果某类错误可以通过确定性检查识别,我会优先评估自动校验;如果必须依赖业务背景判断,人工审核才有对应价值。

自动化是一种常见的策略,但是要考虑成本。一个发生频率很低、每次处理只需少量时间的例外,未必值得建设复杂流程。反过来,高频且规则稳定的操作,长期依赖人工检查,我会要求说明理由。

分析问题的深度,应当服务于干预选择。继续追问已经无法改变行动时,我会停止扩展讨论,把精力转向验证。

问题也要排期

发现问题的能力提高以后,待办事项很可能先变多。

代码有债,流程有缺口,人员有依赖,业务假设也有风险。如果每一个发现都必须立即解决,团队会同时启动大量改善工作,原本的交付计划也失去可信度。

管理者需要对「暂时不处理」承担责任。

判断一个问题是否进入排期,我会看几件事:已经造成了什么损失,未来损失可能如何扩大,判断依据有多可靠,处理成本是多少,以及推迟以后是否会失去调整空间。

简单来说就问一个问题:不做什么怎么样,做要多少成本? 这也算是两个问题吧。

假设两项改造都能减少一定维护工作。其中一项随时可以做,另一项涉及即将被多个团队依赖的接口约定。后者一旦扩散,迁移就需要更多参与者配合。我可能优先处理后者,即使它眼前节省的时间更少。

但我不会把这些因素全部塞进一个精确分数,然后按小数点排序。概率、影响和工作量里包含大量估计,算式不能消除不确定性。

对于信息不足的问题,我会单独安排验证工作。

例如,先花一个有限时间窗口检查实际调用情况、做一次容量实验,或者回放一批历史任务。验证结束后,再决定是否启动完整改造。验证任务需要有结束条件,不能以「持续调研」的形式长期占用人力。

我也会区分两种决定:允许风险暂时存在,以及承诺在某个时间解决。前者需要记录接受风险的人、接受范围和重新检查的条件。不能把所有暂缓事项都放进一个没有期限的技术债列表,等下一次出事再说「早就提过」。

有限的资源只能处理有限的问题。管理者的工作包含排序、延后和拒绝,不能只提供一份越来越长的风险清单。

先做有限验证

提前发现的问题,往往还没有足够证据支持大规模改造。我们需要优先寻找能改变判断的小实验。

假设团队认为,交付慢主要来自公共组件不好用。直接重建组件库,投入很大,验证周期也长。可以先选一类重复任务,调整其中一个高频接口,再比较接入步骤、返工次数和总耗时。

这个实验不需要证明新方案在所有场景都更好。它需要回答:当前识别出的障碍,是否确实影响了交付;移除障碍以后,预期变化有没有出现。

实验设计里,我们可以要特别检查比较条件。

两次任务的复杂度是否接近,参与者是否不同,是否有额外辅导,新方案是否获得了旧方案没有的资源。如果这些条件发生变化,就要缩小结论的范围。

如果测试任务都是规则清楚、信息完整的样本,结论也只能覆盖这部分任务。遇到资料缺失、规则冲突或无法判断的情况,系统怎样退出,谁来接手,都要进入验证范围。

有限实验也有局限。它可能遗漏低频问题,额外受到团队关注,或者无法覆盖规模扩大后的协作成本。因此,通过一次实验以后,我会继续限制推广范围,保留回退条件。

我愿意为这些步骤支付一些时间。相较于一次性更换完整流程,分阶段验证让我有机会在投入扩大之前修正判断。

授权与介入

发现问题容易让管理者产生一种冲动:既然我已经看到了,亲自处理应该最快。

在紧急情况下,这可能是合适的选择。但如果每一次复杂问题最后都回到我这里,我就需要检查自己的介入方式。

我会区分三个环节:识别风险、作出决定、执行处理。它们可以由不同的人负责。

管理者发现某个发布环节存在风险,可以要求补充证据、确定负责人和完成期限。除非风险已经超过团队当前能力,或者需要跨越现有权限,否则没有必要接管全部实现。

授权时,我需要交代的是目标、约束、可使用的资源,以及什么情况下必须升级。对于实现细节,我会留出空间。

这里存在实际代价。团队选出的方案可能与我的习惯不同,局部实现也可能没有我亲自处理得快。如果每次出现这种差异,我就收回任务,成员很难积累完整判断的经验。

但授权也不能变成不检查。

我会根据风险安排检查点。可以轻易撤销的局部改动,允许负责人快速推进;涉及数据破坏、跨团队承诺或难以回退的迁移,需要更早检查方案和前提。检查频率随风险变化,避免所有任务都接受相同强度的管理。

我也需要亲自参与一部分现场工作,例如阅读一次故障时间线,跟进一个长期受阻的任务,或者检查一次改造的实际使用情况。

如果信息只来自层层整理后的汇报,我很难判断哪些成本被省略了。亲自接触现场,是为了校准判断;后续仍然要让明确的负责人完成处理和验收。

发现问题之后,我还欠团队一个决定:谁负责、投入多少、何时检查,以及哪些事情因此不做。

让风险能上来

如果我希望团队提前报告问题,就需要检查自己怎样回应坏消息。

成员提出风险以后,立刻被要求证明一定会出事;承认进度存在不确定性以后,被评价为缺乏担当;发现历史缺陷以后,首先被追问为什么之前没有发现。面对这些回应,一个人有理由等证据更充分以后再开口。

等到证据充分,调整空间可能已经缩小。

我会允许风险报告保留不确定性,但要求表达具体:观察到了什么,可能影响什么,还缺少哪些信息,希望获得什么支持。

「这个项目肯定要延期」和「关键依赖尚未确认,如果本周无法完成,我们需要调整后续联调安排」,包含的信息量不同。后一种表达让管理者可以作出决定,也允许后续事实修正判断。

对于善意提出、最终没有发生的风险,我不会仅凭结果认定提出者判断失误。我会回看当时的信息是否足以支持担忧,验证动作是否合理,以及是否因为提前处理才没有继续恶化。

同样,我也不会奖励没有证据的持续悲观。风险提出以后,需要有人补充信息、缩小范围,必要时撤回判断。只负责提醒所有可能性,却不参与验证,会把筛选成本转移给整个团队。

预防性工作的评价也需要证据。

我会看风险路径有没有被验证,改造是否覆盖了它,回退或恢复是否经过检查,后续维护责任是否落实。至于「避免了多少损失」,没有足够依据就不写一个夸张数字。

对于重复的人工劳动,可以比较前后的处理次数和时间;对于恢复能力,可以记录演练中实际完成的操作与耗时;对于协作改善,可以检查等待和返工有没有变化。评价应当尽量落在能够复查的记录上。

这样做会增加一些记录成本。我愿意保留与决策和验收有关的部分,不要求团队为每项改善制作完整汇报材料。

检查已经完成的

还有一类问题,很容易被技术管理忽略:任务完成了,但投入没有产生预期结果。

系统按时上线,功能通过验收,接口符合设计,团队也没有犯明显错误。几个月以后,使用量很低,原有人工流程仍在继续,新系统还多了一份维护责任。

如果我的检查到上线就结束,这类问题不会进入视野。

我会在立项时约定一次投入后的复查。具体检查什么,取决于项目要解决的问题:人工步骤是否减少,用户是否完成了原来难以完成的任务,业务是否真的采用了新流程,旧系统是否按计划退出。

不能用「已经上线」替代这些问题的回答。

如果结果没有出现,我需要重新检查原来的假设。也许我们识别错了障碍,也许方案只处理了一小部分,也许业务条件已经发生变化。继续增加功能之前,先确认追加投入还有没有依据。

停止项目在这里也是一种需要认真评估的选择。它涉及已有投入、人员安排和承诺调整,处理起来往往比批准下一期更麻烦。但维护一个缺少使用理由的系统,同样会持续消耗资源。

发现问题因此也包括检查团队正在解决的问题是否仍然存在,解决方式是否仍然适用,以及目标是否已经改变。

这会改变我安排时间的方式。

我仍然需要参与故障处理,理解技术细节,对交付结果负责。同时,我会固定留出时间检查重复劳动、尚未验证的判断和上线后的实际结果。对于已经暴露的问题,要求处理闭环;对于只有迹象的问题,安排有限验证;对于暂时接受的问题,留下重新检查的条件。

我也会定期回看自己提出的问题。有多少得到了证据支持,有多少被否定,哪些因为迟迟没有决定而继续消耗团队,哪些处理动作带来了新的负担。

否则,所谓发现问题,很容易变成管理者不断向团队追加任务。

从解决问题到发现问题,对我意味着工作范围扩大了:需要参与定义,需要作出取舍,还需要在结果出现以后检查当初的判断。问题提前进入视野,只是给了我们更多处理空间。这个空间有没有被用好,最终仍然要回到具体的行动和结果上。

以上。

DeepSeek Harness 的上下文管理、记忆和知识库剖析

DeepSeek Harness 里,上下文、记忆和知识库并没有被设计成三个彼此独立的重型系统。它们围绕 Session Log 协同工作。

用三句话概括:

  • 上下文管理负责决定当前这一轮模型能看到什么。系统提示词、动态环境、工具定义和会话消息,会在模型调用前完成装配。
  • 记忆机制负责在上下文窗口不足时折叠旧历史。原始会话日志继续保留,模型当前可见的历史被替换成结构化摘要。
  • 知识获取负责把仓库文件和外部信息送入模型。文件通过路径引用和读取工具进入,网络信息通过搜索、抓取工具进入,所有结果最终写回 Session Log。

三个模块共享一条约束:

模型看到的内容,需要拥有可追踪的来源,并且能够从会话记录中重新构造。

这条约束决定了 DeepSeek Harness 的整体形态。上下文不能由控制器随手拼接,工具结果不能停留在进程内存,压缩不能覆盖原始记录,检索结果也不能绕过会话日志直接塞给模型。

它由此形成了一条完整链路:

SystemPrompt.assemble() 组装当前上下文,ReactLoopAgent.preStep() 决定动态内容是否进入会话,Session.append() 保存事件,Session.deriveMessages() 生成模型历史,buildRequest() 构建最终请求,llm.stream() 完成模型调用。

理解了这条链路,就大概能了解 DeepSeek Harness 的知识和记忆相关的逻辑了。

上下文管理

上下文管理解决的是一个具体问题:每次调用模型时,系统应该选择、组织并发送哪些内容。

现在大多数 Agent 系统不会简单维护一个持续增长的字符串,而是使用结构化消息列表管理上下文。较成熟的系统还会根据任务状态,动态选择系统提示词、历史消息、工具定义、运行环境和检索结果。

真正的难的不是 「是否使用消息列表」,而在于:

  • 哪些内容应该进入本轮请求;
  • 不同内容由哪个模块提供;
  • 动态状态发生变化后如何更新;
  • 重复信息是否需要再次发送;
  • 长会话中哪些历史应该保留或压缩;
  • 服务重启后能否恢复模型当时看到的内容;
  • 最终请求能否被追踪、审计和重放。

DeepSeek Harness 同样以结构化消息为基础,但它没有让 AgentLoop 直接维护所有上下文,而是将上下文拆分为不同来源,在每个 step 开始前统一装配。

1. 分层组织上下文

DeepSeek Harness 中的上下文主要分为四类:

  • 系统规则:角色设定、行为约束和工具使用规范;
  • 动态状态:当前工作目录、运行环境和终端状态;
  • 会话历史:用户消息、模型回复和工具调用结果;
  • 工具定义:当前允许模型调用的工具及其参数结构。

这些内容分别由 SystemPrompt、Runtime Context、Session 和 ToolRuntime 管理,最后在模型调用前合并。

这种设计的重点不是改变消息格式,而是明确上下文的来源和职责。AgentLoop 只负责控制执行流程,不直接承担提示词拼接、历史管理和工具注册等工作。

2. 动态装配本轮内容

每个 step 开始前,ReactLoopAgent.preStep() 会调用 SystemPrompt.assemble(),收集本轮所需的系统提示、动态上下文和工具定义。

其中:

  • sections 保存相对稳定的系统提示;
  • contexts 提供会随运行状态变化的环境信息;
  • tools 描述当前可用的工具;
  • variables 提供提示词渲染需要的变量。

各插件只负责注册自己的内容,最终由 SystemPrompt 统一生成本轮快照。

这意味着上下文并不是固定不变的。例如,插件启停、工作目录变化或工具权限调整后,下一次模型调用可以获得最新状态,不需要由 AgentLoop 编写额外的业务分支。

3. 避免重复注入动态状态

动态上下文并不需要每个 step 都重复写入。

RuntimeContextProjection 会比较本轮快照和上一轮快照:

  • 如果内容没有变化,就继续沿用已有信息;
  • 如果内容发生变化,就生成新的上下文消息并写入 Session。

这种机制有两个作用。

第一,减少重复内容带来的 token 消耗。工作目录和运行环境可能连续多个 step 保持不变,没有必要反复加入会话历史。

第二,保留状态变化轨迹。当环境发生变化时,新快照会进入 Session,后续可以追踪模型从哪一轮开始看到了新的状态。

投影状态还可以从已有 Session 中恢复。因此,即使服务重启,系统也能判断某段动态上下文是否已经注入,避免因为进程内状态丢失而重复写入。

4. 统一派生会话历史

用户消息、模型回复和工具结果不会由控制器临时拼入请求,而是先写入 Session Log,再由 Session.deriveMessages() 派生为模型协议需要的消息列表。

这使系统能够区分三个层次:

  • Log:完整保存原始会话事件;
  • Surface:决定当前哪些事件参与模型上下文;
  • Messages:最终发送给模型的结构化消息。

例如,工具执行结果先作为 tool/result 写入 Session,下一轮再由 deriveMessages() 转换成模型可以读取的消息。上下文压缩也只调整 Surface,不直接删除原始事件。

因此,模型输入不是由多个模块临时修改的消息数组,而是由统一的会话记录派生出来的。

5. 构建并记录最终请求

上下文装配完成后,buildRequest() 会生成最终的模型请求,主要包括:

  • system:系统提示;
  • messages:会话历史和动态上下文;
  • tools:当前可用的工具定义;
  • sessionId:当前会话标识;
  • signal:调用控制信号。

同时,系统会记录 request/headerrequest/context,保存本次调用使用的关键上下文信息。

这样可以回答几个重要问题:

  • 模型当时看到了哪些历史;
  • 使用了哪一版系统提示;
  • 当时有哪些可用工具;
  • 动态环境是否已经发生变化;
  • 某次异常是模型推理问题,还是输入上下文问题。

DeepSeek Harness 的上下文管理并不是简单地将内容放进消息列表,而是围绕分层管理、动态装配、变化检测和统一派生建立完整流程。

其核心链路可以概括为:

各模块提供上下文 → SystemPrompt 动态装配 → RuntimeContextProjection 检测变化 → Session 派生历史消息 → buildRequest 构建并记录最终请求。

这样,每段上下文都有明确来源,动态信息不会被无意义地重复发送,模型输入可以从 Session 中恢复和追踪,AgentLoop 也不需要承载复杂的提示词与历史管理逻辑。

记忆压缩

DeepSeek Harness 当前的记忆能力主要由 Compaction 提供。

这里需要控制术语。Compaction 服务于当前会话的连续运行,它会把旧历史折叠成结构化检查点。跨 Session 的用户偏好、项目经验和长期事实存储,目前没有形成完整系统。

因此,我更愿意把它称为「会话记忆」。

1. 压缩对象

Session 内部存在三个层次:

  • Log:所有原始事件组成的追加日志;
  • Surface:当前参与模型消息派生的事件视图;
  • Messages:发送给模型的协议消息。

Compaction 修改的是 surface。

原始事件仍然保留在 Log 中,模型当前看到的历史则由摘要节点替代。这个结构同时满足了两个要求:

  • 模型输入得到缩短;
  • 原始会话记录没有被覆盖。

它比直接删除前 N 条消息安全很多。

删除历史以后,调试系统无法知道模型之前看过什么。线上出现问题时,只剩下截断后的残缺记录。Compaction 保留原始事件,后续仍可审计压缩范围和摘要来源。

2. 触发条件

BasicCompactionEngine 会通过 tokenMeter.measure(session) 估算当前会话的 token 压力,再与模型的 contextWindow 比较。

自动压缩拥有两个主要触发入口:

  • agent/pre-step 阶段的常规压力检查;
  • 模型返回上下文溢出错误后的重试处理。

常规检查负责提前处理窗口压力,错误重试负责兜底。

压缩区域由 selectCompactableRange() 选择。它会优先折叠较旧历史,并保留近期上下文。近期消息通常包含当前修改进度、最新工具结果和下一步操作,保留它们可以减少摘要对短期推理的影响。

区域选择还需要保护工具调用链。

Assistant 发出的 tool-call 和对应的 tool-result 属于一组完整语义。若压缩边界将它们切开,后续模型可能看到孤立的调用或孤立的结果。部分模型适配器甚至会直接拒绝这种消息结构。

validateSurfaceRegion() 会检查压缩区域,避免破坏工具调用与结果的配对关系。

这类结构校验比简单的「保留最近 N 条消息」可靠。Agent 历史已经超出普通聊天记录的范畴,消息之间存在协议级关联,切割时必须理解这些关联。

3. 摘要生成

压缩区域选定后,buildSummarizationInput() 会恢复对应的模型消息,并取回当时的 system 和 tools。summarizeWithLlm() 随后调用 LLM 生成摘要。

摘要受到固定模板约束,主要包含:

  • Primary Request and Intent
  • Files and Code
  • Errors and Fixes
  • Next Step
  • Critical Context

结构化模板可以防止摘要退化成普通的对话概述。

编程 Agent 的历史里,有用的信息通常集中在几类内容:

  • 用户最初要解决的问题;
  • 已经读取或修改的文件;
  • 执行过的命令;
  • 失败原因和修复过程;
  • 当前未完成步骤;
  • 不能违反的环境约束。

如果只要求模型「概括以上对话」,输出往往会省略文件名、错误信息和失败尝试。摘要读起来流畅,后续执行却接不上。

固定结构会提高这些信息的保留概率,但无法保证语义完整。

4. 替换事务

摘要生成以后,会被包装进 <compacted-summary>,随后作为新的 user/message 写入 Session,并通过 surfaceOp: replace 替换旧区域。

参考实现中的主流程如下:

// compaction-basic/region.ts 的逻辑简化
session.append('compaction/start', { ... })

const summary = await summarizeWithLlm(ctx, config, input, agent, signal)
const framed = frameSummary(summary.summary)

const summaryEvent = session.append('compaction/summary', { ... })

session.append(
  'user/message',
  createUserMessage({
    content: framed,
    source: compactCheckpointSource(...),
  }),
  {
    surfaceOp: { op: 'replace', start, end },
    sourceEventSeqs: [startEvent.seq, summaryEvent.seq, ...shadowedSeqs],
  },
)

session.append('compaction/end', { ... })

整个过程会记录:

  • 压缩开始;
  • 摘要内容;
  • replacement message;
  • 被覆盖的事件序列;
  • 压缩结束。

sourceEventSeqs 建立了检查点与原始历史之间的关联。排查错误摘要时,开发者可以反查它覆盖了哪些事件。

Session.deriveMessages() 检测到 replaceGeneration 发生变化后,会重建消息缓存。后续模型看到的是新检查点和保留下来的近期历史。

当前的设计保证了事务的完整性。压缩失败时,旧 surface 仍然可以继续使用。摘要生成成功且提交完成后,模型视图才发生变化。

5. 有损风险

Compaction 无法绕开有损问题。

假设旧历史中出现过一条约束:测试环境使用特定环境变量,变量为空时必须跳过某项操作。摘要模型漏掉这条信息以后,后续 Agent 可能执行错误命令。

原始事件虽然还在 Log 中,当前模型无法自动访问。对推理过程而言,这条信息已经离开热上下文。

因此,Session Log 的完整性解决了审计问题,没有完全解决信息恢复问题。

我会在现有 Compaction 上增加一层历史召回能力。摘要中保留关键事件引用,模型缺少细节时,可以调用类似 recall_history 的工具读取旧历史。

召回参数可以采用结构化维度:

  • turn 范围;
  • step 范围;
  • event seq;
  • tool call id;
  • 文件路径;
  • compaction id。

这种方式比单纯的语义搜索更稳定一些。Session 已经拥有完整事件顺序和来源关系,应优先利用现有结构。

召回结果也要写成 tool/result。这样系统可以知道模型恢复了哪段历史,以及这段历史怎样影响后续决策。

6. 调度延迟

当前压缩会调用一次 LLM。压缩发生在主流程上时,用户需要等待摘要完成。

会话较短时,这个延迟可以接受。长会话的摘要输入很大,调用时间会明显增加。编程 Agent 还可能连续执行多个工具,压缩恰好卡在下一步之前,交互体验会出现停顿。

可以引入两级水位:

  • 接近窗口上限时,后台生成候选 checkpoint;
  • 到达硬上限时,提交已有 checkpoint;
  • 候选结果过期时放弃;
  • 没有可用结果时回退到同步压缩。

异步压缩的难点集中在一致性。

生成摘要期间,Session 还会继续追加事件。提交前必须校验它对应的 surface generation,确保被压缩区域没有发生冲突。检查点过期后不能强行替换,否则可能覆盖新的工具结果或用户输入。

当前已有的压缩重入保护、surface generation 和事务事件,为异步化提供了基础。早期保持同步更稳,长任务比例上升以后,再逐步引入后台 checkpoint。

知识获取

DeepSeek Harness 没有传统意义上的统一向量知识库。

它的知识入口由三部分组成:

  • 文件路径引用;
  • Web 搜索与抓取;
  • 工具结果写入 Session。

这种组合适合编程 Agent。代码仓库里的信息具有路径、符号、定义和引用关系。统一切块并写入向量数据库,会损失一部分结构信息,还要承担索引更新成本。

1. 文件引用

file-reference-local 提供工作区文件和目录候选。

它会根据 session.header.cwd 创建 WorkspaceFileSearch,然后扫描当前工作区。结果只包含:

  • path
  • kind

用户在前端选择文件后,输入框里会插入 @path@"path with spaces"

文件内容不会在这个阶段进入模型。

系统提示会告诉模型,@ token 表示工作区路径。模型需要读取内容时,应调用 read 工具。

这个分层处理了两个不同问题:

  • file-reference-local 负责找到路径;
  • read 工具负责读取内容。

如果选择路径时就把整个文件自动塞进消息,系统会遇到几类麻烦。

第一,大文件会快速占满上下文。

第二,用户无法知道系统展开了多少内容。

第三,读取行为缺少独立记录。

第四,文件权限和读取范围可能绕过工具 guard。

第五,文件修改以后,很难判断模型当时看到的是哪个版本。

路径引用保留了用户意图,工具调用保留了实际读取行为。两类信息都会进入 Session,审计链更完整。

WorkspaceFileSearch 还会控制目录边界、排除路径、最大条目和候选数量,并拒绝通过 .. 或符号链接跳出 workspace。

这些限制属于安全边界。文件路径来自用户输入,也可能由模型生成,不能默认可信。

2. 精确检索

文件路径补全只能解决「大致知道文件在哪里」的问题。

大型仓库中,开发者和模型经常需要回答另一类问题:

  • 接口定义位于哪个文件;
  • 某个符号有哪些引用;
  • 哪些实现依赖当前类型;
  • 一次修改会影响哪些调用点;
  • 编译诊断关联到哪些符号。

这些查询适合交给 LSP。

项目已经存在 packages/lsp/,可以继续扩展为代码检索能力。优先提供:

  • Go to Definition;
  • Find References;
  • Workspace Symbols;
  • Diagnostics;
  • 调用关系。

向量检索依赖语义相似度。两个函数命名和注释很接近,并不能证明它们具有依赖关系。LSP 返回的是语言服务器维护的定义和引用关系,适合代码修改场景。

可以把仓库检索分成四层:

  1. 已知路径,直接读取文件;
  2. 已知文本,使用 grep
  3. 已知符号,使用 LSP;
  4. 只有概念描述时,再考虑语义检索。

这个逻辑会优先消耗确定性信息。代码仓库已经提供路径和符号结构,没有必要先把问题转换成向量相似度。

LSP 也有运行成本。语言服务器需要启动和预热,多语言仓库要维护多个进程,大型 monorepo 的全局引用查询可能很慢。它适合作为工具按需调用,不适合把所有结果常驻上下文。

查询结果仍然要通过 ToolRuntime 写入 Session。这样模型读取过哪些定义、哪些引用,可以在后续回放中找到。

3. Web 检索

外部知识通过 web_searchweb_fetch 进入模型。

整体分为三层:

  • WebRuntime 定义统一能力;
  • search/fetch provider 负责具体请求;
  • tool-web 把能力注册成模型可见工具。

这种分层使工具 schema 与供应商解耦。模型只需要理解 web_searchweb_fetch。底层可以选择 DeepSeek、Exa、Perplexity 或 HTTP fetch provider。

Provider 选择规则保持严格:

  • 配置了 provider id,使用指定 provider;
  • 未配置时,系统要求只有一个可用 provider;
  • 多个 provider 同时可用时直接报错。

这可以避免插件加载顺序影响线上行为。

Web 搜索结果会被格式化成模型可见文本,并带有外部内容不可信和引用 URL 的提示。Web fetch 会把 HTML 转换成 Markdown,普通文本则直接进入结果。

提示只能影响模型行为,网络边界还要由 provider 控制。HTTP fetch provider 已经包含多项限制:

  • 只允许 HTTP(S);
  • 拒绝 URL credentials;
  • 拒绝私网和非公网地址;
  • 控制同源重定向;
  • 限制重定向次数;
  • 限制响应字节数;
  • 限制正文长度;
  • 固定经过校验的 DNS 地址;
  • timeout 由部署配置管理。

模型生成的 URL也属于不可信输入。网页中的 Prompt Injection 可能诱导模型请求内网地址、云元数据地址或带有凭证的 URL。网络策略需要在模型之外执行。

4. 工具入库

文件读取、Web 搜索和 Web 抓取获得的信息,都通过同一条工具链进入模型。

流程可以概括为:

  1. ToolRuntime 把工具 schema 注册到 SystemPrompt;
  2. 模型返回 tool-call;
  3. AgentLoop 调用 executeToolCalls()
  4. Session 写入 tool/call
  5. ToolRuntime 执行工具;
  6. Session 写入 tool/result
  7. 下一轮 deriveMessages() 把结果投影给模型。

参考实现中的调用路径如下:

// 模型返回 tool-call
const toolCalls = message.content.filter(block => block.type === 'tool-call')

// Agent 执行工具
const { concluded } = await executeToolCalls(
  this.loopCtx,
  turn,
  step,
  toolCalls,
  signal,
  context => this.inbox.splice('next-step', this.inbox.nextStep.length, 0, [context]),
)

// 工具结果进入 session log,下一 step 被 deriveMessages() 投影给模型

工具结果不会只停留在当前执行栈,也不会直接修改临时 messages 数组。

这对 Web 信息尤其关键。搜索结果和网页内容会随时间变化。如果系统只记录搜索参数,重放时重新请求一次,模型得到的内容可能已经不同。

文件读取也一样。Agent 可能在读取后修改文件。历史推理需要保留当时真正发送给模型的内容。

当然,完整保存所有工具输出会增加 Session 体积。工程上可以保存模型实际看到的渲染结果,同时在 meta 中记录:

  • 是否截断;
  • 原始内容长度;
  • 来源路径或 URL;
  • content type;
  • 工具调用参数;
  • provider 信息。

模型没有看到的正文,无须全部伪装成上下文历史。回放能力关注的是当时的模型输入。

三者关系

上下文、记忆和知识获取分别控制模型输入的三个阶段。

  • 上下文决定当前输入: SystemPrompt 收集系统约束、动态状态和工具 schema。preStep() 判断动态内容是否变化,buildRequest() 构建最终模型请求。它解决的是「这一轮应该携带什么」。
  • 记忆控制历史体积: Compaction 观察 token 压力,选择旧历史区域,生成结构化摘要,再替换当前 surface。它解决的是「历史太长以后保留什么」。
  • 知识补充外部信息:文件引用帮助定位路径,读取工具获得仓库内容,Web 工具获取外部信息,未来还可以用 LSP 提供符号级查询。它解决的是「当前会话缺少的信息从哪里获得」。

三者最终都回到 Session。

动态上下文通过 user/message 进入日志,工具信息通过 tool/result 进入日志,压缩通过 compaction/* 事件和 replacement message 改写 surface。

所以,DeepSeek Harness 的数据主线可以压缩为:

装配上下文,记录事件,派生消息,调用模型,执行工具,写回结果,必要时折叠 surface。

插件可以增加新的上下文来源、新的工具和新的压缩策略,但不能绕过这条主线。

直接向 GenerateOptions.messages 塞内容,会产生无法回放的隐形上下文。

检索模块绕过 ToolRuntime,会失去权限、审计和结果记录。

压缩模块覆盖原始事件,会破坏历史追踪。

这几条边界比具体使用哪种模型、搜索服务或向量数据库更影响系统的维护成本。

小结

DeepSeek Harness 的三个模块可以归纳为三句话:

  • 上下文管理负责装配当前输入。
  • Compaction 负责压缩当前会话历史。
  • 文件和 Web 工具负责补充当前缺失的信息。

三者共享 Session Log:

  • 模型看到的动态状态要进入日志;
  • 模型获得的工具结果要进入日志;
  • 压缩只调整 surface,原始事件继续保留;
  • 后续模型输入由 Session.deriveMessages() 统一派生。

现有设计的优势集中在可回放、可审计和模块边界。主要缺口也很具体:Compaction 存在语义损失,压缩调用会阻塞主流程,文件路径检索缺少符号级能力,跨 Session 长期记忆尚未形成独立体系。

Session Log 继续保存事实,surface 控制模型当前看到的历史,工具负责按需获取信息。三个模块沿着这条数据链协作,系统才能在上下文窗口、运行延迟和信息完整性之间保持可控。

以上。

DeepSeek Harness 和 Pi 的 Agent Loop 循环结束判断架构细节解析

本篇文章代码基线采用 DeepSeek Harness 版本 0.1.2-alpha.1,提交时间为 2026 年 8 月 28 日;Pi 采用 853a80d2。这里的 Pi 指 pi-agent-core 中的官方 Agent Loop。

就循环究竟在什么时刻结束这个问题,很多 Agent 框架把结束判断写成一个条件:

while (hasToolCalls) {
  // ...
}

在 Demo 中这种循环也够用。进入生产环境后,你会发现会很多问题:

  • 模型没有调用工具,是否代表任务完成?
  • 工具执行完了,模型是否还需要解释结果?
  • 用户在工具执行期间发来 steering,应该进入当前轮还是下一轮?
  • 输出触达 token 上限后,工具参数还能不能执行?
  • 某个工具宣布任务完成,其他并行工具怎么办?
  • Agent 进入 idle 后,Goal Driver 能不能再次唤醒它?
  • Plan mode 退出,是结束当前循环,还是切换下一次请求的策略?
  • 进程崩溃后,日志里尚未闭合的 turn 应当如何解释?

DeepSeek Harness 和 Pi 的工程路线不同,或者说 DeepSeek Harness 更复杂,也更能满足复杂场景的需求。

DeepSeek Harness 将结束拆成多层状态,并把事件日志作为重建依据。Pi 保留了更扁平的循环结构,把 steering、follow-up 和 post-turn stop 暴露成回调。前者适合多插件、持久恢复和长期任务;后者适合轻量嵌入,控制路径也更容易读懂。

两种实现都能工作。它们承担的系统复杂度不同,结束语义自然不会相同。

五层边界

讨论 Agent Loop 时,我们需要先定义好「结束」,否则代码里的 completedturn_endagent_end 很容易被混为一谈。

DeepSeek Harness 实际存在五层边界。

第一层是模型请求结束。

Provider 流式输出完成,可能给出正常停止、工具调用、最大 token、错误或取消。这里的判断逻辑是:当前 HTTP 请求或模型流结束了吗?

第二层是 step 结束。

一个 step 包含一次模型调用,以及该响应发起的一整批工具执行。工具执行结束后,step 才算关闭。模型若调用了普通工具,系统通常还欠一次模型回访,因此 step 结束不代表 turn 结束。

第三层是 turn 结束。

DeepSeek Harness 中,一个 turn 可以包含多个 step,大概如下:

用户输入
→ 模型调用
→ 工具批次
→ 模型回访
→ 工具批次
→ 模型最终输出

以上为一个 turn。turn 结束需要同时满足两项条件:

  1. 模型不再欠一次回复;
  2. next-step inbox 没有待处理输入。

第四层是 driver activity 结束。

一个 driver 可以连续处理多个 turn。当前 turn 关闭后,如果 inbox 里还有普通 follow-up,driver 会直接打开下一 turn。只有队列耗尽,driver 才回到 idle。

第五层是长期工作流结束。

Goal Driver 可以监听 idle,检查持久 Goal 状态,再调用 followup() 开启新 turn。Plan mode 也可能跨越多个 turn 持续生效。因此,idle 只描述当前 activity;它无法回答长期目标是否完成。

Pi 的层级少一些。一次 assistant 响应与随后执行的工具批次,会对应一个 turn_end。工具回访模型时,Pi 再开启下一次 turn。内部队列耗尽后发出 agent_end,当前 invocation 至此结束。

从语义上看:

  • DeepSeek Harness 的 step 接近 Pi 的 turn;
  • DeepSeek Harness 的一次 driver activity 接近 Pi 的一次 Agent Loop invocation;
  • DeepSeek Harness 的 Goal Round 位于 driver activity 外层;
  • Pi 的长期 Goal 通常由宿主或扩展继续调度。

术语相似,粒度相差一层。如果日志消费端忽略这一点,统计出的 turn 数、工具往返次数和任务完成率都会失真。

驱动收敛

DeepSeek Harness 的入口:

while (await this.turn()) {
}

turn() 返回 true,driver 继续处理下一 turn;返回 false,driver 收敛;抛出异常时,异常会被 driver 边界容纳,随后进入 idle。

短代码背后有一套完整的 phase 状态机:

idle
maintenance
running

running 保存:

  • 当前 turn;
  • 当前 step;
  • AbortController
  • wakeRequested

maintenance 同样持有取消信号和唤醒锁存,只是对外状态仍显示为 idle。这种设计解决了一个经常被忽略的竞态:Agent 处于维护任务时收到新消息,新消息不能立即启动第二个 driver,也不能静默丢失。系统先将唤醒意图锁存,维护结束后检查 inbox,再决定是否重启。

取消路径也有类似处理。

如果一个 waking input 到达时,现有 activity 已经被 abort,这条消息会被重分类到 next-turn。它不能加入一个正在收敛的旧 turn。send() 在插入 inbox 前读取 aborted 状态,避免 inbox observer 触发重入取消后改变分类结果。

这段细节很像传统并发状态机,而不是常见的聊天循环。它处理的是输入归属问题:一条消息必须属于当前 step、下一 step 或下一 turn,重入事件不能改变已经作出的边界判断。

whenIdle() 也没有简单等待某个固定 Promise。它反复比较 activityDone

do {
  await (activity = this.activityDone)
} while (activity !== this.activityDone)

等待期间如果 activity 被新的 driver 替换,调用方会继续等待。否则 whenIdle() 可能在旧 driver 结束、新 driver 已经启动的窗口里提前返回。

在多插件环境中,idle 是一个可观察状态,也是一种同步承诺。这个承诺需要覆盖重启竞态,不能只看某次异步任务是否 resolve。

Turn 状态机

DeepSeek Harness 在领取输入之前写入 turn/start

pre-step 可能拒绝输入,系统提示组装可能抛错,首步消息也可能被插件改写为空。无论发生哪种情况,日志中都存在一个完整 turn,并由唯一的 turn/end 收口。

turn 内部维护两个变量:

  • turnEnds:当前已知的结束原因;
  • target:本轮 pre-step 应领取 next-turn 还是 next-step

第一个 step 从 next-turn 开始。后续 step 转向 next-step。普通用户 prompt 因此拥有独立 turn,工具附加上下文、运行时 context 和 steering 则可以进入当前 turn 的下一 step。

一次循环大致经历以下过程:

创建 step 编号
→ 从 inbox 领取消息
→ 组装系统提示和运行时 context
→ 执行 agent/pre-step
→ 记录 step/start
→ 写入 user/message
→ 调用模型并执行工具
→ 记录 step/end
→ 判断是否继续

如果 agent/pre-step 返回 reject,turn 以 blocked 结束,模型不会被调用。

如果首个 step 的消息为空,turn 以 completed 结束,也不会消耗模型请求。这覆盖了一个边缘场景:wakeup 已经打开 turn,随后消息被移除,或者 pre-step 插件把消息改写为空。边界既然已经建立,日志仍需闭合。

如果某个 step 已经产生结束结果,但下一次 pre-step 没有消息,循环退出。若仍有消息,就继续执行。

这里需要留意 turnEndsstepEnd 的关系。step() 可以返回:

  • completed
  • max-tokens
  • null

null 表示工具执行完毕,模型还欠一次回复。它是继续循环的协议状态,和错误、未知结果没有关系。

turn 的结束判断由「模型债务」与「消息债务」共同决定。模型债务来自 tool call,消息债务来自 inbox。只检查其中一项都会出错。

停止钩子

DeepSeek Harness 在 turn 准备收口时触发 agent/turn-stopping

这个扩展点没有返回 truefalse。插件如果希望 turn 继续,需要向 next-step 写入消息。hook 执行完成后,核心循环重新检查 inbox:

turn 已经可以结束
→ next-step 为空
→ 触发 agent/turn-stopping
→ 再次检查 next-step
→ 为空则关闭
→ 非空则进入下一 step

这是数据驱动的方式。

多个插件都能监听 stopping。如果采用 shouldContinue(): boolean,组合规则会立刻变得棘手:

  • 任意插件返回 true 就继续?
  • 所有插件都返回 true 才继续?
  • 后执行的插件能否覆盖先执行的结果?
  • 插件决定继续,却没有提供下一步输入,模型该看到什么?
  • 插件决定停止,但另一个插件已经排入 steering,谁的优先级更高?

DeepSeek Harness 用 inbox 消除了大部分布尔值合并问题(这个设计和 Golang 的竞态处理逻辑类似,使用类似消息队列来处理竞态)。继续执行必须产生一条可消费的数据。最终判定依赖队列状态,而非插件调用顺序。

当然,这也是需要代价的。

插件作者需要理解 inbox target、turn 边界和 wakeup 语义。一个简单的「再跑一次」操作,需要构造 UserMessage 并写入正确队列。框架学习成本高于直接回调。

这种成本在单体应用里可能显得繁琐。进入可恢复、多插件、可审计系统后,显式消息通常比隐式布尔控制更可靠。日志和调试工具能看到「为什么继续」,而不是只看到某个 hook 曾经返回 true。

Step 债务

step() 最关键的职责,是判断模型是否还欠一次回复。

模型流结束后,BlockAssembler 给出 finish 状态。如果 finish 是 error 或 aborted,系统先触发 agent/request-error waterfall。插件可以选择 retry。没有 retry 动作时,代码抛出结构化 LlmError

正常组装出 assistant message 后,判断顺序如下:

  1. finish 为 max-tokens,返回 max-tokens
  2. 没有 tool call,返回 completed
  3. 存在 tool call,执行整批工具;
  4. 工具批次声明 concluded,返回 completed
  5. 普通工具批次返回 null

顺序不能随便改。

最大 token 状态在工具解析之前返回,因此响应中即使出现 tool call,也不会被执行。截断输出可能包含不完整的 JSON 参数。某些流式解析器会尝试补全 JSON,补全后甚至能通过 schema 验证,但语义字段可能已经缺失。执行这类调用会产生真实副作用。

DeepSeek Harness 的选择偏保守:整轮以 max-tokens 收口,等待外部策略决定是否继续。

Pi 采用另一种处理。stopReason === "length" 且消息包含工具调用时,它会给所有工具生成错误结果,说明参数可能被截断,没有实际执行,然后把这些结果交回模型。模型有机会在下一 turn 重发完整调用。

两者的恢复能力不同。

DeepSeek Harness 保留了清晰的 durable turn reason,运维侧能准确识别 token ceiling。自动继续需要 Goal Driver、用户输入或其他插件参与。Pi 更倾向在当前 invocation 内自我修复,模型可能马上重发工具调用。

我在具有写操作的 Agent 中会选择 DeepSeek Harness 的策略。达到输出上限本身意味着模型状态不完整,自动延续可能重复前一批操作。只读研究型 Agent 可以采用 Pi 的方式,失败工具结果能减少一次人工干预。

粘性结果

DeepSeek Harness 的 max-tokens 具有粘性。

某个 step 达到上限后,插件仍可能在 turn-stopping 阶段补入 steering,让 turn 再执行几个 step。后续 step 即使正常完成,最终 turn/end 仍然保留 max-tokens

判断逻辑是:

if (
  turnEnds === null ||
  turnEnds.kind !== 'max-tokens'
)
  turnEnds = stepEnd

这里记录的是整个 turn 的质量,而非最后一次 step 的结果。

如果不做粘性处理,可能产生如下日志:

step 1: max-tokens
step 2: 插件要求继续
step 3: completed
turn/end: completed

消费端会丢失曾经发生的截断。监控系统无法统计 token ceiling,Goal Driver 也可能把这轮当成完整成功并继续自动调度。

把 turn reason 视为聚合结果后,合并规则就需要专门设计。DeepSeek Harness 当前只对 max-tokens 做了优先保留。错误和取消会直接离开主流程,不参与后续合并。

如果未来加入诸如 partialpolicy-warningbudget-exhausted 等状态,简单覆盖会越来越脆弱。更稳妥的方向是为 reason 建立显式优先级或累积 facts,再由投影层生成最终 reason。当前 union 规模尚小,现有实现足够清楚。

工具收口

DeepSeek Harness 允许工具通过结果上的 concludesTurn 宣布当前 turn 可以收口。

工具批次采用 OR 聚合:

任意一个已提交结果 concludesTurn === true
→ 整批 concluded === true

它表达的是「模型默认不再欠一次工具结果回访」。

concludesTurn 没有直接打断同批工具,也没有清空 next-step

  • 已启动的并行工具继续运行;
  • 结果按模型调用顺序提交;
  • additionalContexts 写入 next-step
  • 同期到达的 steering 也写入 next-step
  • 只要 next-step 非空,turn 仍会进入下一 step。

因此,工具结束能力属于软收口。它取消了自动回访债务,无法压过已经存在的消息债务。

这套语义适合权威型工具。例如某个交互工具已经取得用户最终决定,或者某个提交工具已经完成不可逆事务,模型没有必要再生成一段中间解释。工具可以建议收口,同时保留系统上下文和用户 steering 的优先级。

Pi 的工具终止采用 AND 聚合:

return finalizedCalls.length > 0 &&
  finalizedCalls.every(
    finalized => finalized.result.terminate === true
  )

只有非空批次中的每个 finalized result 都带有 terminate: true,整批才终止。

并行批次中,一个工具不应单方面吞掉其他工具结果。Pi 要求整批达成一致,语义更保守。DeepSeek Harness 允许一个权威工具宣布收口,扩展能力更强,也更依赖工具契约。

选择 OR 还是 AND,取决于 terminate 的业务含义。

如果它代表「任一工具发现全局终止条件」,OR 合理,比如用户取消、权限拒绝、事务已完成。

如果它代表「当前工具不需要模型处理自己的结果」,AND 更稳妥,因为其他工具可能仍需模型解释。

DeepSeek Harness 通过 next-step 上下文缓和了 OR 的侵略性,但无法覆盖所有情况。假设两个并行工具都成功,一个写数据库并 concludes,另一个返回一份需要模型分析的报告,又没有追加 context。模型回访会被跳过。工具注册规范需要限制哪些工具可以 conclude,不能把它当成普通便利字段。

顺序提交

DeepSeek Harness 的工具调度器还有一项容易被忽略的约束:执行可以并行,提交保持模型顺序。

调度器维护:

  • nextToStart
  • started
  • committed
  • inFlight
  • 按调用位置排列的 slots

并行工具完成时,只把结果放入对应 slot。commitReady()committed 开始,连续提交已经就绪的结果。后面的工具先完成,也要等待前面的 slot。

这会增加尾部等待时间,但能保证:

  • tool/result 顺序稳定;
  • additional context 顺序稳定;
  • replay 结果稳定;
  • 插件观察顺序稳定;
  • 同一模型响应在多次运行中的日志结构更一致。

模型生成了 A、B、C 三个调用。若 C 最先完成,直接提交 C 会让后续上下文受网络时序影响。对于事件溯源系统,这类非确定性会扩大恢复和测试成本。

Pi 的并行执行也使用 Promise.all 保留输入数组顺序,最终 tool result message 按原调用顺序发出。两套系统都接受并行执行带来的延迟收益,同时拒绝完成时序污染模型上下文。

DeepSeek Harness 额外支持动态重分类。并行池补充新任务前,会重新读取工具当前 execution mode。前一个工具可能修改注册表,使后续工具从 parallel 变成 exclusive。调度器会停止补充,等待当前池排空,再把 exclusive call 留给下一个 barrier。

这种灵活性会增加 scheduler 状态数量。适合「工具本身能改变工具环境」的 Harness。工具目录完全静态时,预先分组会更简单。

取消语义

工具执行期间的取消,比模型流取消复杂得多。

DeepSeek Harness 的原则可以概括成三条:

  1. 停止补充尚未启动的调用;
  2. 清空已经启动的调用;
  3. 为因取消而跳过的工具写入合成错误结果。

已启动工具可能已经产生副作用,框架不能假装它没有运行。调度器等待这些调用 settle,并按模型顺序提交结果和 additional contexts。

未启动工具则写入一对完整事件:

tool/call
tool/result(error: aborted before dispatch)

这样可以维持模型工具协议的配对关系。恢复和 replay 时,每个模型产生的 tool call 都有对应结果。

内部 scheduler failure 的处理更克制。它停止新 dispatch,等待已经启动的调用结束,然后抛出第一个失败。它不会为剩余调用伪造结果。因为 scheduler failure 与用户取消不同,系统无法确认未提交调用处于什么语义状态。伪造恢复结果可能掩盖调度器缺陷。

这里体现出事件日志的核心要求:日志不只服务 UI,它还是恢复协议。任何 synthetic event 都需要有确定语义。为了让数组长度好看而补事件,会污染后续决策。

Pi 的实现更偏运行时事件流。工具执行异常会被转换成 error tool result,随后继续进入上下文。取消时顺序模式会在每次工具后检查 signal,平行模式也会停止准备后续调用。它的核心目标是把本次 invocation 的 message stream 完整交给调用方,持久日志的闭合约束没有 DeepSeek Harness 那么强。

原因体系

DeepSeek Harness 的 TurnEndReason 包含六种核心结果:

  • completed
  • blocked
  • max-tokens
  • aborted
  • error
  • interrupted

这些状态回答的是整个 turn 如何结束。

completed 覆盖正常文本停止、工具要求收口,以及首步为空。它不承诺长期 Goal 完成。

blocked 来自 pre-step reject。输入可能已经被 inbox 领取,但策略层拒绝进入模型调用。driver 当前会停止,其他尚未领取的普通 prompt 可以继续留在队列。

max-tokens 表示至少一个 step 达到输出上限。它保留为 turn 级质量信号。

aborted 携带取消原因,包括 user、parent、hook 和 disposed。持久导入还可能出现 legacy cause。

error 保存结构化 LlmFailureLlmError 的信息原样保留,其他异常会被压平为 errorChain 文本,并使用 UNKNOWN code。

interrupted 由持久化恢复层产生。进程崩溃后,后端发现一个开放 turn,会用该状态闭合。live loop 不会主动写入它。

把 crash repair 与 runtime abort 分开很有必要。abort 表示程序收到了取消请求,并有机会执行清理;interrupted 表示生命周期突然消失。两者对副作用审计、重试决策和用户提示都有不同含义。

Pi 主要保留 assistant message 的 stopReason

  • stop
  • length
  • toolUse
  • error
  • aborted

它更接近最后一次模型调用的结束事实。DeepSeek Harness 的 reason 聚合了多 step turn 的结果。一个字段偏 provider,一个字段偏业务生命周期。

从监控角度看,Pi 的 stopReason 更利于分析模型行为;DeepSeek Harness 的 turn reason 更利于分析任务执行。生产系统通常两类数据都需要。DeepSeek Harness 通过 assistant/message、request events 和 turn/end 同时保留两层事实,日志体积也会更大。

Goal 外循环

长期 Goal 无法靠核心 turn 的 completed 判断。

DeepSeek Harness 采用外围 Round Driver。它监听 Agent 进入 idle,然后检查:

  • Agent 实例是否仍然有效;
  • inbox 是否存在竞争中的普通 prompt;
  • Goal 是否存在;
  • Goal phase 是否为 active;
  • 当前 activation 是否 armed;
  • 已启动 round 数是否低于上限。

满足条件后,Driver 构造一条来源为 goal 的 user message,并调用 agent.followup()。新消息进入 next-turn,打开全新的 turn。

时序如下:

turn/end(completed)
→ agent/status: idle
→ Goal Driver 读取持久状态
→ flush
→ followup(goal round)
→ turn/start

这种结构给每个 Goal Round 一个完整、独立、可恢复的生命周期。进程在两个 Round 之间退出,恢复时可以从最后一个闭合 turn 继续判断。一个覆盖几十轮的巨大 while 会让持久化边界、用户抢占和异常恢复都更困难。

Goal 还维护 phase 与 activation 两组状态。

持久 phase 描述业务状态:

  • active;
  • complete;
  • blocked;
  • paused。

进程内 activation 描述自动续行授权:

  • armed;
  • disarmed。

把两者拆开可以处理 resume 和 fork。一个持久 Goal 仍然 active,不代表新进程应该自动继续消耗预算。恢复后的 active Goal 默认 disarmed,需要人类再次授权。否则某次服务重启可能让多个历史任务同时复活。

达到最大 Round 数时,Goal 会进入 blocked,并记录 round-limit。max-tokens、Agent error、flush failure、driver failure 会 disarm。取消路径也会 pause 或 disarm,防止 idle 后被 Goal Driver 再次拉起。

这里采用了 fail-closed 策略。长期自治任务遇到状态不确定时停止续行。对成本敏感、有写权限的 Agent,这是合理默认值。自动重试可以放在更高层,由持久预算和幂等策略约束。

Goal 收尾

Goal 状态改为 complete 或 blocked 后,当前 turn 通常还会再调用一次模型。

update_goal 工具会修改持久状态,并通过 deferred context 注入收尾指令。工具结果与 <goal_complete><goal_blocked> context 进入下一 step,模型生成最终面向用户的说明。之后 turn 以 completed 结束。Agent 进入 idle,Goal Driver 读取到非 active phase,不再唤醒。

这解决了状态完成与用户可见输出之间的时间差。

如果 update_goal(complete) 直接 conclude turn,持久状态已经完成,用户界面可能只看到工具卡片,没有自然语言总结。若让模型先写总结再更新状态,模型或进程可能在总结期间失败,Goal 又会保持 active。

DeepSeek Harness 先提交状态,再执行展示收尾。恢复时即便缺少最终文本,Goal 也不会重复工作。用户体验层可以根据 complete 状态补一条提示,或者提供重新生成总结的操作。

代价是 complete 后多一次模型调用,也会增加少量 token 和延迟。我认为这笔成本合理。长期任务的最终输出属于交付结果,不能依赖 UI 猜测工具状态。

Pi 双循环

Pi 的 runLoop() 使用内外两层循环。

内层条件为:

hasMoreToolCalls || pendingMessages.length > 0

它处理工具回访和 steering。外层负责 Agent 本来要停止时的 follow-up。

一次内层迭代包括:

prepareNextTurn
→ 处理 pending steering
→ 调用模型
→ 执行工具
→ 发出 turn_end
→ shouldStopAfterTurn
→ 拉取新的 steering

内层耗尽后,系统调用 getFollowUpMessages()。存在 follow-up 时,将它们设置为 pending,重新进入内层。没有 follow-up 时发出 agent_end

Pi 提供三个高杠杆控制点:

  • getSteeringMessages()
  • getFollowUpMessages()
  • shouldStopAfterTurn()

这套接口很适合嵌入应用。

steering 处理当前 activity 内的即时干预;follow-up 处理 Agent 自然收口后的补充工作;shouldStopAfterTurn 提供宿主级截停。扩展作者不需要理解持久 inbox,也不需要创建新的状态投影。

复杂度被交给宿主。多个扩展共同提供 follow-up 时,需要上层决定合并方式。进程恢复后,回调内部的临时状态如何重建,也由应用实现。若不同扩展分别定义 Goal、Plan 和审批流程,结束语义会逐渐碎片化。

Pi core 的目标是提供一个小而可组合的运行时。它没有承诺统一的长期任务协议。这个边界和 DeepSeek Harness 的产品定位并不相同。

失败路径

Pi 遇到 assistant erroraborted 时,会发出 turn_endagent_end,然后结束当前 invocation。

DeepSeek Harness 会先区分流 finish error、显式 abort 和普通异常。

请求错误可以进入 agent/request-error waterfall。插件能够依据 provider、failure、retry policy 和 signal 决定 retry。重试发生在同一个 step 内,重新创建 assembler,再发一次请求。外部 turn 和 step 边界保持不变。

这种设计使日志更紧凑,但需要谨慎处理重复请求。前一次失败若已经在 provider 侧产生计费,session 中可能只有请求重试后的最终 assistant message。底层观测系统需要独立记录 attempt,不能只靠 conversation event log 统计模型调用次数。

Pi 通常由 stream implementation 或上层配置承担 retry。Agent Loop 接收到的 final message 已经带有 stopReason。职责划分更轻,调用方也更容易替换模型层。

DeepSeek Harness 将 request header、adapter defaults、request context 和 conversation surface 都纳入 session 语义,retry 与恢复自然更靠近 loop。架构更重,换来统一的请求重建能力。

请求序列

DeepSeek Harness 每次构建请求时都会比较当前 header 与 session 中的 baseline。

header 包含:

  • provider 和 model;
  • reasoning effort、max tokens 等调用配置;
  • adapter materialized defaults;
  • system prompt;
  • tool schemas。

首个 header 记录为 initial 或 resume。配置变化时记录 change。显式开始新消息序列或 surface replacement 后,会记录 series。

结束判断和 request series 没有直接控制关系,但它影响「同一个上下文连续体」的解释。Goal 的自动 Round 可以标记 startsRequestSeries: true,让每轮长期任务拥有独立请求序列。缓存、展示和重放层因此能识别边界。

如果只依靠 turn start 判断新序列,会把工具回访、用户 follow-up、Goal Round 和 compaction 后续请求全部归入一种语义。DeepSeek Harness 单独记录 series,是在为后续缓存和重建保留信息。

成本是日志事件更多,header equality 与 canonicalization 也必须稳定。工具 schema 排序、空字段处理或 adapter defaults 若不规范,可能制造大量无意义 change 事件。代码使用 canonical header 和 deep freeze,正是在控制这种漂移。

日志消费

消费 DeepSeek Harness 日志时,先问清业务方想判断哪一层结束。

判断一次模型调用完成,应读取 step 内的 assistant message、stream finish 和 usage。

判断 turn 是否闭合,应寻找配对的 turn/startturn/end。只有 assistant message 不够。pre-step reject、空 turn、异常和 crash repair 都可能产生不同结构。

判断当前 Agent 是否暂无活动,应读取 status 或等待 whenIdle()。最后一条 turn/end 仍不足以证明 idle,因为 driver 可能已经打开下一 turn。

判断长期 Goal 是否结束,应读取 Goal phase。complete、blocked 和 paused 都会停止自动 Round,业务含义各不相同。

判断 Plan 是否退出,应读取最新 plan/mode.active。看到 exit_plan_mode 调用,只能说明模型提出了退出请求。审批可能被拒绝,pending intent 也可能尚未在 pre-step 提交。

判断会话以后是否还会运行,需要观察 Agent 是否 disposed、是否从 registry 移除,以及外围 scheduler 是否仍能发送消息。idle 和 completed 都没有永久性。

Pi 的消费方式更简单:

  • assistant stopReason 描述模型调用;
  • turn_end 描述一次模型与工具批次;
  • agent_end 描述当前 invocation;
  • Goal、Plan 和工作流完成度读取具体扩展状态。

即使已经收到 agent_end,宿主仍然可以再次调用 Agent Loop。它同样不具备永久终止含义。

工程取舍

DeepSeek Harness 为结束判断支付了较高复杂度。

它需要:

  • phase 状态机;
  • inbox 分类;
  • wake latch;
  • 平衡的 turn 和 step 事件;
  • surface projection;
  • request header 重建;
  • crash repair;
  • Goal activation;
  • Plan boundary intent;
  • 有序工具提交。

这些机制会增加代码量、测试矩阵和插件开发门槛。一个简单聊天产品采用全套设计,投入可能超过收益。

它适合以下场景:

  • 会话需要跨进程恢复;
  • Agent 拥有高风险工具;
  • 多个插件会同时 steering;
  • 需要长期 Goal 与预算控制;
  • 日志需要审计和 replay;
  • Plan、审批和执行必须跨边界保持一致;
  • 子 Agent 和父 Agent 存在取消传播。

Pi 的循环更适合:

  • 单次 invocation 生命周期清晰;
  • 宿主已经拥有自己的持久化层;
  • 扩展数量有限;
  • 工作流由应用统一控制;
  • 希望快速接入多模型与工具;
  • 对 session event vocabulary 没有强约束。

Pi 的小核心减少了框架内部状态。业务一旦开始增加 Goal、审批、自动 follow-up、并发工具策略、恢复和预算,宿主会逐步补齐类似机制。复杂度没有消失,只是落在不同层。

团队选择框架时,不应只比较 Agent Loop 文件有多少行。要看系统准备把「继续运行的权力」放在哪里。

DeepSeek Harness 把权力分散给模型 finish、工具结果、inbox、生命周期 hook 和外围持久状态机,并通过事件日志协调。Pi 把权力集中在当前循环和几个宿主回调中,扩展层可以自行定义更高层协议。

设计建议

如果我们团队要自行实现 Agent Loop,我会保留以下原则。

第一,区分模型结束、工具批次结束、用户 turn 结束和长期任务结束。类型和事件名也要分开,避免一个 done 字段横跨所有层级。

第二,继续执行需要携带数据。插件要求再跑一轮时,应提交 steering 或 follow-up message。单独返回布尔值会让调试和组合越来越困难。

第三,工具调用后的模型回访应被建模为债务。普通工具结果产生一次回复债务,conclude 或 terminate 可以消除债务,steering 又会重新增加消息债务。用这套视角设计状态机,比堆叠 if (hasToolCalls) 更稳定。

第四,最大 token 需要独立结果,且不要执行疑似截断的工具参数。自动修复可以存在,但必须显式记录恢复过程。

第五,并行工具允许乱序完成,持久结果应按模型顺序提交。除非协议明确支持乱序 tool result,否则不要让网络时序改变上下文。

第六,取消必须区分已启动与未启动调用。已启动工具要排空或记录未知结果,未启动工具需要完整的 synthetic result,具体选择取决于日志协议。

第七,idle 不能充当长期完成信号。Goal phase、workflow state 和 Agent lifecycle 应拥有独立状态。

第八,模式切换要提交在请求边界。Plan、权限、模型路由和工具目录的变化,都不应在一个已开始的请求批次中途生效。

第九,恢复后的自动续行默认关闭。长期 Agent 会消耗资金,也可能修改外部系统。新进程接管旧任务时,应重新取得授权或租约。

第十,结束原因需要兼顾机器消费。completedblockedmax-tokensabortederrorinterrupted 这类结构化 union,比一段自然语言错误更适合监控、重试和审计。

架构落点

DeepSeek Harness 把结束判断分布在四个控制面上。

模型输出控制 step:还有没有工具回访债务。

inbox 控制 turn:还有没有当前轮待处理消息。

driver 控制 activity:队列耗尽后是否进入 idle。

Goal 与 Plan 控制工作流:idle 后是否开启新 Round,下一请求采用哪种策略。

Pi 将更多判断放在同一个运行循环里。工具调用和 pending steering 驱动内层循环,follow-up 驱动外层循环,shouldStopAfterTurn 提供宿主截停点,队列耗尽后发出 agent_end

DeepSeek Harness 更接近一个事件溯源的 Agent Runtime。Pi 更接近一个可嵌入的 Agent 执行内核。

评价两者没啥意义,我们需要关注的是其系统边界。

如果产品只需要一次 prompt 驱动的工具循环,Pi 的结构更容易维护。若产品已经出现跨轮 Goal、审批、恢复、多插件 steering 和高风险工具,DeepSeek Harness 的分层会减少后期协议冲突。

Agent Loop 最难处理的部分,从来都不是让模型继续调用工具。真正消耗工程时间的是:它为什么继续、谁允许它继续、失败后还能不能继续、恢复后应不应该继续,以及日志能否解释它曾经做过的每一次选择。

以上。