本期为《对话技术前线》智能体专题（上），聚集“复杂智能体系统的开发与驾驭”。王昊奋（CCF TF数据科学与知识工程SIG主席，同济大学长聘教授、博士生导师），李庆丰（CCF TF多智能体系统SIG副主席，新浪微博高级总监），与主持人宋继强（CCF TF主席，英特尔中国研究院院长）共同探讨：当Agent从一个"聪明的模型"，变成一个能可靠运行、自主协作、持续积累经验的复杂系统，我们该如何构建它，又如何真正驾驭它？

感谢钰珵大厦为本期节目录制提供场地支持。 

观看视频播客：

微信收听音频：

小宇宙收听音频：

01

“模型越强，Harness 越要做减法”

宋继强：现在智能体系统正进入前所未有的爆发期。DeepSeek 开放了自己的Harness系统，大模型厂商纷纷推出智能体开发框架——这说明智能体开发已经不能只依靠大模型自身的能力，而要靠很多外围系统。Harness 最近是非常重要的热点，请二位从学术和产业两个角度谈谈，它为什么重要？

王昊奋：我们正从早期大模型的 Chat 时代，进入以 Agent 为主、能行动和做决策的时代。大模型能力越来越强，但它本身是无状态的；而 Agent 既要跟业务系统和大量工具关联，又要具备规划分解能力，还需要记忆，最后形成行动、完成任务。所以无论大模型厂商还是互联网大厂，都在把自己的边界延展，去获取真实的业务反馈数据——这就是大家纷纷扑向 Harness 的原因。

Harness从2026年开始众说纷纭，但一个普遍的共识是：它是模型之外的一切。权限围栏、沙箱、可观测性等，都不是模型本身要去解决的。

这里有两个很重要的转变：第一，我们原来是要消解模型的幻觉、让模型更可控，现在变成从系统工程的角度，保证一整套 AI 系统可控、可解释、可追溯；第二，模型越强，Harness 并不是去束缚模型的智能，反而要做减法——从外围让系统更可管理、可演化。

宋继强：庆丰老师刚主持了一场很火热的Harness主题活动（点击阅读“Agent Harness专场 | TF技术前线182期回顾”），能不能从产业角度讲讲Harness的核心价值？

李庆丰：Harness这个词是“马具”,“马具”的目的是控制马的方向，让它按人的目标行走；映射到 Agent 体系，Harness 就是控制大模型的方向与边界，让它按人的目标去执行任务——这是它最大的价值。

从我们具体的业务实践来看，Harness 至少包含三层。第一层是执行环境与工具管理，让 AI 的执行贴合真实的工作场景，这是它形成生产力的前提。第二层是上下文与记忆，核心是提升大模型的注意力——内容跟目标越精准，任务执行就越好。第三层是业务编排与多Agent调度，把模型能力转化成跟业务相结合的具体目标。

除了这三层，还有三个辅助特性：可验证性、可观测性和可治理性。3+3的这种模式，是让 Harness 真正应用到业务系统、稳定完成业务目标的基础。

02

“Harness 是 RSI 非常好的切入点”

宋继强：现在有一个很火的概念——递归自我改进 RSI，它被认为是通向通用人工智能的一条路径。它更多是对大模型发挥作用，还是整个 Harness 框架都要用到？

王昊奋：这件事要分层来看。现阶段模型还不具备在线学习、高频持续学习的能力，所以第一层先动的是 Harness。因为大家其实并不关心模型本身怎么样，而是关心落地的 AI 系统——无论单智能体还是多智能体——它的行为是不是越来越好、越来越懂我。这要靠可验证、可治理、可观测三个原则，形成端到端的链路优化。

等 Harness 固化到一定程度，再进入模型本身的优化，可以是部分权重的优化（比如 LoRA、QLoRA），也可以是全参数优化。再往后，就是模型和 Harness 协同优化——像左右脚踩两个轮子，先踩一次 Harness，跟环境交互、根据反馈更新；到一定程度，再基于新的情况更新模型；更新完的模型，可能又要回头调 Harness。这就从单维度的优化，演变成双向奔赴的协同跟进。

宋继强：产业界会用 RSI 的方式去推进应用吗？

李庆丰：行业里讨论很多，但有两个绕不开的问题：第一，怎么验证它的自我改进是好的；第二，改进有没有安全边界——比如之前OpenAI大模型可能做了自我攻击，为了达成目的想出了违背人类原则的做法。这个怎么去约束？

Harness 本身是配置工程，在这一层做自我改进反而更容易。所以我认为 Harness 是 RSI 非常好的切入点，也可能是未来 RSI 非常有利的基座。

我们日常业务里已经在借鉴这种思想，比如 Auto-Harness、Loop Engineering。举个例子，微博的实践：定时收集线上业务的行为日志，检测有没有失败情况；发现异常，就让 Agent 根据日志分析到底是什么问题、进而去解决；因为涉及线上系统，最终提交的 PR 还要人工 review 之后再合并。我们会让这个系统在夜里去跑，这样的话就会形成一个让大模型自动的去改进我们系统的能力。这也是一个相当于RSI的实践。

03

“Harness是大模型厂商的必争之地”

宋继强：王老师说构建多智能体系统时模型可以换来换去，对模型没什么”忠诚度”；李老师说做 Harness 的同时还要反过来改造模型。现在一个明显的趋势是头部大模型厂商在积极拓展边界，做自己的智能体开发框架和Harness工具链。他们为什么这么积极？

王昊奋：有几方面原因。第一，智能体与模型相比是有状态的——无状态的大家就谁好就用谁”，有状态就会产生粘性。光靠卖 API、卖 token plan、code plan 肯定不够，因为产业智能化转型需要更好的载体。这事就相当于移动互联网时期的 APP 和小程序。所以模型厂商一定会把边界往外拓，而拓的过程中 Harness 是绕不开的选项。

第二，从生态角度，原来用模型的主要是 developer；对于行业用户，Agent 提供了新的入口和触点，可以去积累甚至沉淀行业的 know-how、sop 和领域知识。Harness 里的 memory、tool、skill，都像八爪鱼一样帮它往外拓。

当然这事儿有个度：模型厂商不能过度依赖 Harness，否则有损模型自身的进化。模型要突破能力的上限，Harness 要保证稳定的下限——上限越高，能做的事越多；下限越高，稳定做成一件事的能力越强。

宋继强：从用户方的角度看，你们喜欢跟模型厂商的工具绑定，还是更分离的方式？

李庆丰：我们最终关注的是效果。现在行业有个变化：大模型排行榜的关注度在下降，大家更关注它到底能不能帮我完成任务——整个行业越来越务实，因为它已经进入生产力阶段了。

我理解大模型应用分三层：最下层是模型，决定推理能力；中间是 Harness，决定能不能把任务持续稳定地执行好；最上面是 Agent 应用层，跟业务强相关。模型是厂商最擅长的；Harness 是它想控制的——它不希望别人来定义它的大模型好不好；但再往上就不好走了，应用层跟业务关联太紧密，厂商没有精力把所有业务场景都做完。所以 Harness 一定是大模型的必争之地，是未来大模型应用的入口。从大模型公司的动作也能看出来：最早是 Claude Code，再到 DeepSeek 开放自己的 Harness，OpenAI 也很快把 Codex 做了进一步开源——这一层的分量已经不言自明。

另外它还有一个好处：大模型本身是可替换的，但生态和工作环境是很难替换的——就像英伟达 CUDA 生态那道很深的护城河。厂商希望建立基于 Harness 的生态，让应用方基于生态反过来调用它的模型。而且 Harness 的可观测性、可验证性能收集大量运行轨迹，知道模型在某个业务场景里执行得好不好、有什么问题——这些都是训练更聪明模型必不可少的数据语料。

04

“没有记忆的智能体，每次都从零开始”

宋继强：Harness里有一个重要部件——智能体记忆。大家普遍认为它是实现复杂长程任务、跨 session 协作的重要基础。王老师在这个方向有很多研究，能讲讲来龙去脉吗？

王昊奋：翁荔（Lilian Weng）那篇著名的博客里，大模型外围有四个核心组件：planning 做规划、tool 调工具、memory是记忆，最下面是 action。回头看模型的演化：预训练讲 scaling law；到 o1、o3，再加上是DeepSeek的R1等等，开始有了自动思维链，进入 test-time scaling——深度思考解决了规划这一步；然后要知行合一，从 function call 到工具使用，产生了 MCP 这样的协议；再往后，很多东西要跟本地环境相关、要沉淀，而上下文不可能无限长，需要渐进式披露，就有了 skill。

四个组件里唯一没讲的就是 memory——最后一块拼图。没有记忆和有记忆的区别在于：没有记忆，每次做事都从零开始，从初始状态开始。第一，你没有演化性，不会从错误当中总结提升；第二，在 To C 场景，比如个人助理，它会显得没有温度——你的偏好、你的亲朋好友关系我一概不知，每次都要重新问，这一点都不智能。

而且 context 充当的是工作记忆，人还需要长期记忆——要有一种机制去记住它，并跟工作记忆协同，把短期的东西转换、沉淀下来。更关键的是，记忆不像模型推理大部分是读操作，它有大量写入、转化、沉淀的操作，这对模型训练、AI 基础设施甚至 Agent 的使用方式，都提出了新要求。

这件事真正火起来，是年初 OpenClaw出来之后。装一个龙虾很简单，但养龙虾是技术活。里面有个 MEMORY.md 档案文件——我们做技术的都觉得文件系统有这问题那问题，但挡不住它就是 work了。而且文件经常在变，还是分层的：有 session 层，有按时间或主题聚合的层，最后才是长期记忆。大家第一次从大量应用体感中发现，记忆真的离我们没那么远了。

宋继强：产业界实际应用中，记忆系统的框架和分层是什么？什么该被记住，什么该被遗忘？

李庆丰：记忆对实际应用非常重要。就像员工，你告诉他一次，他下次还犯同样的错，你肯定不喜欢这样的员工；Agent 也一样，要记住之前犯过的错、记住我们的偏好。

记忆系统里我们分 session 记忆和长期记忆：session 记忆收集当前工作场景里跟目标相关的内容；长期记忆沉淀长期的偏好和经验。至于“有上下文了为什么还要记忆”——上下文是有限的，而且就算不断扩张，大模型还有注意力机制：上下文给太多，注意力就分散了，回答会产生幻觉、偏离目标；给定少而精确的上下文，输出才稳定。执行成百上千个任务，如果把所有东西都记住，需要的时候从海量内容里提取跟任务相关的部分，反而非常困难。

所以我们的系统分两个阶段：任务执行中，把重要的经验提炼成记忆放进记忆体；执行任务时，只提取跟任务相关的记忆碎片，形成更精炼、符合目标的上下文，让大模型输出更好。

05

“智能体不是越多越好”

宋继强：构造多智能体系统时，常见问题是要把任务划分给很多不同的智能体。智能体是不是越多越好？怎么判断要如何划分和管理？

李庆丰：先从原理上讲，大模型有两个约束：注意力机制，以及上下文有限。这两点决定了给大模型的上下文一定是基于目标的有限集合，在语义表述充分的前提下越少，输出才越好。

复杂任务要切分成小任务，也是这个原因：一个宏伟大目标相关的上下文太多，模型输出会发散。切完之后每个小任务只执行确定的小目标，再聚合起来完成大目标。但也不是越小越好——特别像我们当年做云原生时的微服务：一个大的复杂系统全放在一个 JVM 里，依赖关系复杂，一个服务出错整个系统就崩了；切成微服务后，单个服务有问题的话都有容灾手段，对整体不会有很大影响。

切得太少，每个子任务复杂度还是高，注意力还是不聚焦；切得太碎，怎么把这些子系统再聚合起来，是非常复杂的工程。所以究竟切多少，取决于任务的目标和复杂度。

王昊奋：我从另外几个角度补充。第一，典型设定里有规划的 planning agent、干活的 working agent、协调聚合的 coordinator agent，承担不同作用，对模型能力的要求也不一样，所以可以用不一样的模型。考虑到 token 经济，一个轻量模型能稳定完成的事，用最强模型就是杀鸡用牛刀——所以会有模型的适配和选择，OpenRouter 这样的新 AI Gateway 里已经有很多模型融合和语义路由。

第二，多智能体很多时候是数字员工，其实是对企业组织结构的刻画和变革。人的管理半径和管理效率、沟通成本摆在那里，管的人多了你一定会分层分级。跟人最相关的，是定目标、定价值、做验证这类高价值的事；跟 Agent 相关的，是简单审核和容易自动化验证的事。所以会有 agent 和 sub-agent——sub-agent 做 context 的隔离，最后 report 回来，构建整个 workflow。

第三，从分布式系统的角度：如果智能体之间相对独立、正交，可以并行，就适合多智能体；如果依赖关系太多，一致性、延迟和系统复杂性都会变得特别大，也不容易增删节点。所以确实不是越多越好。

06

Human-in-the-loop / Human-on-the-loop / Human-off-the-loop?

宋继强：多智能体系统里角色已经很清楚，甚至分层汇报了。那未来跟人的关系是什么？现在有 Human-in-the-loop、Human-on-the-loop、Human-off-the-loop 三种说法，怎么看待这几层关系？

王昊奋：所有技术变革都是用来解放人的——从体力劳动到脑力劳动，再到让人去想问题、做创新。落地过程当中，人一定会往更高价值的场景和任务走。就像程序员，原来写代码；现在有了 Coding Agent，胶水代码可能不用写了，但很多框架demo 还要写，而且需要更强的架构能力和设计能力；build 的成本考虑变少，OPS（运维和运营）变得更需要关注。没有免费的午餐，矛盾只是从一个地方转移到了另一个地方。

回到三种 loop，这跟业务性质相关：如果业务容错性非常低、必须保证正确且每次稳定执行——比如跟钱有关的事——那要走很长时间的 Human-in-the-loop；如果结果可以抽样验证，目标定清楚后它能基于沉淀的 know-how、skill、sop或 memory较好运转，就可以 Human-on-the-loop；有些事本身已经确定、随时间推移不变、容错性也高，就可以 Human-off-the-loop，做甩手模式。

总的来说，是业务的容错性、可靠性、可验证性，加上变更管理——需求的变更、环境的变更、系统设定的变更——这些组合起来，决定人在里面起什么作用。

李庆丰：让大模型写个 demo 程序很容易，但让它写一个线上系统，还是有难度。非常重要的原因是：写业务线上系统的代码，里面有大量业务经验和线上工程经验，这些专业领域的东西大模型不一定知道。

回到 in/on/off the loop，拿我们的业务系统举例：线上系统的修改，工程师是 in-the-loop——最终上线是人负责的，人要检验 AI 开发的代码能不能上线；一些复杂度没那么高的运营系统，是 on-the-loop——人大概检验一下，没问题就上线；离线系统可以 off-the-loop——上线后真有问题，报警之后可以回退，对线上没什么影响。

在整个 AI 研发领域的应用里，大模型更多是给建议，最终决策还是人来做——基于不同场景以及对线上系统的影响，基于安全边界和系统稳定性做取舍，决定人是收紧一点还是放松一点。

07

“当编码变得不稀缺，驾驭AI会变得更稀缺”

宋继强：CCF 的受众里有大量从事 AI 和智能体开发的工程师和科研人员。这个领域变化很快，有机遇也有挑战。最后请二位给他们一些建议。

王昊奋：现阶段的变化确实很快，但这是趋势，也是必然会发生的事，必须拥抱它——如果变成鸵鸟，就可能错过这个百年未遇的大变革时代。我给三步：拥抱、理解、驾驭。第二阶段是理解，可以多关注 CCF，尤其是 CCF TF 的各种活动，这里有很多一线的实际 case 和最佳实践，帮大家少走坑、习得最新进展。第三是驾驭——不能只学，还要用，只有在用的过程中，你才能知道这件事好不好、有多好、给定成本下能不能做得比较好。

这跟今天讨论的 Harness 一样：原来值钱的、稀缺的能力在平权化，但一定会有新的稀缺能力需要提升——品味、创新能力、复杂系统的设计和架构能力。大家往更难更复杂的技能上对自己提出更高要求。拥抱、理解、驾驭、创造，四环走完，你也可以像 Agent 一样完成自己的 RSI，在新的时期找到自己的一片天空。

李庆丰：之前大家都在说 AI 会替代工程师，但编码只是一项技能——当编码变得不稀缺，驾驭 AI 会变得更稀缺。所以工程师要及时转型：原来是亲自写代码，现在是让 Agent 去写代码。这个变化的本质是，每个人都是管理者了，你要具备管理者的能力，才能在未来有一席之地。

具体来讲，管理者有三点急需提升：第一，问题的定义能力和任务的分解能力——原来需求自己写，现在要分给 Agent；如果你不能把模糊的需求定义清楚、分解成边界清晰的任务模块，执行效果肯定不好，反之这就是你独特的能力。第二，对业务的理解能力——大模型有很强的通用能力，但专业领域的知识要靠人来输入、作为上下文；你对业务理解的深度，决定了你能不能用大模型把这个行业做的更好。第三，品味——做架构或业务决策时，能符合大多数人的审美、符合行业的特点；这不是天生的，是你在行业里扎根多年、经过大量实践积累出来的潜意识判断。把多年的经验形成品味，让你产生独特的价值。