《AI Agent 产品开发·交互、信任与上线》1.3 三案例为什么选了这三种形态

三个案例的形态不是偏好,而是自主度与责任位置的对应:A Relay 的建议嵌在工单页,B Quill 的草稿长在编辑器里,C Runner 的执行放在后台。本节逐案说明形态与自主度的关系,给出混合形态的三个成立条件、三种常见误配,以及一棵可运行的形态决策树与 TypeScript 实现。

以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。

前两节讲了形态的分类和代价,但分类与代价表只能告诉你「有哪些选项」。真正做产品时,问题会变成:为什么 A 是嵌入,B 也是嵌入,C 却是后台?如果嵌入更好,为什么 C 不也嵌进运营的工作台?

答案不在界面偏好里,而在自主度与责任位置的对应关系里。三个案例分别承担建议、草稿、执行三种责任,责任落在哪里,形态就长在哪里。这一节逐案拆开,并给出混合形态的成立条件和一棵可以走通的决策树。

自主度先定,形态后定

先看三案例的自主度与形态对应。这张表是卷二后续所有交互讨论的基准。

案例自主档形态用户在哪遇到可见性关键约束
A Relay建议嵌入工单页侧栏L2 依据人在决策链上,不能移除
B Quill草稿嵌入报告编辑器L1 步骤产出需人加工,审改不可压缩
C Runner执行后台后台 + 任务中心L3 全程动作需可回滚,审计必须有效

这张表里最容易被误读的是 A 和 B 同属嵌入。它们形态相同,但可见性不同:A 是 L2,用户要看到建议的依据;B 是 L1,用户先看到草稿的步骤和结构。形态回答「在哪里」,可见性回答「看多深」,两者不是一回事。

另一个容易被误读的是 C 的「后台 + 任务中心」。任务中心有前端入口,看起来像混合,但它只承担异常查看和回看,不承担每一步确认。C 的主形态仍是后台:动作在界面之外按批次执行,人只在异常和审计时被拉回来。

自主度与形态的对应可以写成一句话:建议和草稿发生在人的工作现场,所以嵌入;执行发生在工作现场之外,所以后台。审批档是一个中间态:它需要人点头,点头发生在界面里,所以通常也是嵌入。只有当场外执行又需要事前确认时,才升级为混合。

A Relay:建议必须在工单页里

A Relay 是 Northwind 的客服工单分诊 Agent,月工单量 26,400 单,支持团队 9 人,人工分诊基线 3.50 分钟一单。它输出三样东西:队列归属、优先级 P1–P4、首响模板编号。

这三样东西都必须贴着工单字段被确认。支持人员在工单页里看到建议,判断「这个队列对不对、这个优先级合不合理、这个模板能不能用」,然后采纳或修改。整个确认过程平均 0.75 分钟,其中采纳的确认是 32 秒,不采纳的修改是 91 秒,按 78.0% 和 22.0% 加权正好是 45 秒。

如果把 A 做成独立对话,支持人员要先复制工单内容,再读一段回复,再回到工单页改字段。模型输出没有变,但确认动作从「看一眼字段」变成了「搬运三次」。分诊的价值本来就在于减少判断时间,搬运会把节省的时间吃回去。

所以 A 的形态不是「嵌入更好」,而是「建议必须在工作现场被确认」。它的可见性是 L2:不仅给结论,还要给依据,让支持人员能判断建议为什么这么分。每一条建议追三条输入字段,这是第 5 章来源可追溯的起点。

B Quill:草稿必须长在编辑器里

B Quill 是 Meridian 的客户报告起草 Agent,月报告量 606 份,咨询团队 15 人,人工基线 4.20 小时一份。它读客户数据包、上月报告和行业模板,产出 12–20 页的客户月报初稿,格式是 Markdown 加图表。

草稿的审改动作发生在章节结构里:咨询顾问逐节看结论、追来源、改措辞、调整图表。把草稿放进聊天框,审改就变成了复制粘贴,章节之间的状态也会丢失。所以 B 的形态必须是嵌入编辑器,草稿直接落在章节位置上。

B 的可见性是 L1,先让用户看到步骤和结构,而不是一上来就给完整依据。原因是草稿的审改需要先判断「这一节该不该存在、顺序对不对」,再判断「这句话的事实对不对」。如果一开始就把所有来源铺开,审改会被细节淹没。等用户点到某一节,再展开这一节的来源和事实核查清单。

B 的一次采纳率是 63.0%,小改率 28.0%,返工率 9.0%;事实错误率 4.6%,审改时发现。三档审改时长分别是 1.25 小时、1.95 小时和 3.00 小时,加权正好是 1.6 小时。这些数字说明:草稿形态的价值不在于「一次生成就对」,而在于「把人从空白页带到可审改的初稿」。编辑器是这个过程的载体,聊天框不是。

B 的机器生成耗时是 11 分钟,人工审改是 1.6 小时。生成时间不计入人工,但它影响等待体验:11 分钟里用户需要一个进度或阶段说明,而不是一个转圈。这是第 2 章过程可视化要解决的问题。

C Runner:执行在后台,任务中心只处理例外

C Runner 是 Kettle 的电商运营任务执行 Agent,月任务量 13,200 个,运营团队 24 人,人工基线 18.00 分钟一个。任务类型是上下架检查 45.0%、价格异常 30.0%、库存跟进 25.0%,动作包括只读检查、改价格、改库存、下架和发通知。

C 的动作在工作现场之外发生,用户不可能逐条在场。它的自动完成率是 78.0%,其余 22.0% 转人工;转人工平均 14 分钟,折合 3.08 分钟/任务。审计抽检 8.0%,单次复核 12 分钟,折合 0.96 分钟/任务。两者相加是 4.04 分钟/任务,这才是 C 的人工账。

C 的主形态是后台,任务中心只处理例外。任务中心回答三个问题:这一批跑了多少、哪些被判定为异常、异常里哪些需要人处理。它不承担每一步确认,也不要求用户盯着进度条。用户可以在批次结束后回来看,也可以在异常通知里直接跳到具体任务。

C 的可见性是 L3,步骤、依据、过程和回放都要有。原因是执行档的错误代价最高:错误率 1.7%,其中 86.0% 可回滚,剩下 14.0% 不可回滚,不可回滚错误率是 0.238%。没有 L3,审计无法判断一个动作当时看到了什么、命中了哪条规则、能不能回滚。

任务中心不是混合形态。混合要求界内确认与界外执行同时存在,而 C 的界内动作只在异常时发生。把任务中心叫混合,会让人误以为每一步都有人确认,从而低估后台形态对审计的依赖。

混合形态的适用条件

混合不是「后台加一个聊天入口」,它有三个成立条件,缺一个就会退化。

条件判断问题缺了会怎样
界内确认与界外执行同时存在有没有动作必须在界面里点头,之后又在界面外执行只有一边,混合退化成嵌入或后台
例外需要人就地处理异常能不能直接在入口里改约束、跳过或回滚入口只能看不能改,变成摆设
常规批次可以不看大部分批次能不能无人值守跑完每批都要看,混合退化成人工审批队列

第一个条件决定混合有没有必要,第二个决定入口有没有用,第三个决定混合能不能放量。三个都满足,混合才是真形态;缺一个,就应该老老实实选嵌入或后台。

举一个反例:一个执行 Agent 每批任务都要人点一次「同意」。这不是混合,这是把后台做成了审批队列。审批点过密,用户会训练成无脑点同意,等于没有审批。第 4 章会专门讲审批疲劳,这里只需要记住:混合的入口是为例外准备的,不是为每一批准备的。

形态选择的决策树

把上面的判断写成一棵树,评审时可以从上往下走。先问人从哪里开始,再问动作在哪里发生,最后问效果前是否确认。

// file: src/trust/01-3-case-surfaces.ts
// tier: L2
// verify: node --test test/trust/01-3-case-surfaces.test.ts

// 三案例的形态与自主度对应:建议嵌在工单页,草稿在编辑器,执行在后台。
// 这里把 1.1 的判定规则接到三个具体案例上,并给出一棵可走通的决策树。

import { byKey, type Autonomy } from "../cases.ts";
import type { Surface } from "./01-1-four-surfaces.ts";

export type Placement = {
  readonly surface: Surface;
  readonly where: string;
  readonly visibility: "L0" | "L1" | "L2" | "L3";
  readonly autonomy: Autonomy;
};

export const CASE_PLACEMENT: Record<"A" | "B" | "C", Placement> = {
  A: {
    surface: "embedded",
    where: "工单页侧栏",
    visibility: "L2",
    autonomy: "advise",
  },
  B: {
    surface: "embedded",
    where: "报告编辑器",
    visibility: "L1",
    autonomy: "draft",
  },
  C: {
    surface: "background",
    where: "后台 + 任务中心",
    visibility: "L3",
    autonomy: "execute",
  },
};

// 建议与草稿都发生在人的工作界面里,所以是嵌入;
// 审批虽然要人点头,点头也发生在界面里,仍是嵌入;
// 只有执行档的动作落在界面之外,主形态才是后台。
export function expectedSurface(autonomy: Autonomy): Surface {
  if (autonomy === "execute") return "background";
  return "embedded";
}

export type Fit = {
  readonly ok: boolean;
  readonly reason: string;
};

export function checkPlacement(key: "A" | "B" | "C"): Fit {
  const placement = CASE_PLACEMENT[key];
  const profile = byKey(key);
  if (profile.autonomy !== placement.autonomy) {
    return {
      ok: false,
      reason: `${profile.name} 的自主档是 ${profile.autonomy},与形态表不符`,
    };
  }
  if (expectedSurface(profile.autonomy) !== placement.surface) {
    return {
      ok: false,
      reason: `${profile.name} 的自主档不该配 ${placement.surface}`,
    };
  }
  return {
    ok: true,
    reason:
      `${profile.name} 的 ${profile.teamSize} 人团队每月处理 ` +
      `${profile.monthlyTasks} 个任务,放在${placement.where}`,
  };
}

export type TreeInput = {
  readonly userStartsInTask: boolean;
  readonly actsOutsideTask: boolean;
  readonly reviewBeforeEffect: boolean;
};

export type TreeResult = {
  readonly surface: Surface;
  readonly path: readonly string[];
};

// 形态决策树:先问人从哪里开始,再问动作在哪里发生,最后问效果前是否确认。
export function walkTree(input: TreeInput): TreeResult {
  const path: string[] = [];
  if (input.userStartsInTask) {
    path.push("人从既有工作界面开始");
    if (input.actsOutsideTask) {
      path.push("动作在界面之外发生");
      return { surface: "hybrid", path };
    }
    path.push("结果落回同一界面");
    return { surface: "embedded", path };
  }
  path.push("人不在既有工作界面");
  if (input.actsOutsideTask) {
    if (input.reviewBeforeEffect) {
      path.push("效果发生前必须确认");
      return { surface: "hybrid", path };
    }
    path.push("按批次执行,事后审计");
    return { surface: "background", path };
  }
  path.push("只回答一次问题");
  return { surface: "conversation", path };
}

export type MixedCondition = {
  readonly required: readonly string[];
  readonly note: string;
};

export function mixedCondition(): MixedCondition {
  return {
    required: [
      "同时存在界内确认与界外执行",
      "例外需要人就地处理",
      "常规批次可以不看",
    ],
    note: "三者缺一,混合会退化成后台或嵌入,入口变成摆设",
  };
}

// C 的任务中心只处理异常与回看,不承担每一步确认,所以主形态仍是后台。
export function entrySurface(key: "A" | "B" | "C"): string {
  if (key === "C") return "任务中心(只处理异常与回看)";
  return CASE_PLACEMENT[key].where;
}

CASE_PLACEMENT 把三个案例的形态、位置、可见性和自主度钉在一起。它不是配置表,而是评审基准:任何人提出「给 C 加一个聊天入口」时,都要先回答这个入口是否改变 C 的自主度、可见性和审计责任。

expectedSurface 故意做得很简单:执行档配后台,其余配嵌入。这不是说所有非执行任务都一样,而是说形态的第一层判断只区分「动作在不在工作现场之外」。更细的可见性、打断和混合条件,留给后面的函数。

walkTree 是评审时真正会走的路径。它先问人从哪里开始,再问动作在哪里发生,最后才问效果前是否确认。三个分支分别落到嵌入、后台、混合和对话。注意:混合有两个入口,一个是「界内发起、界外执行」,一个是「界外执行、效果前确认」,两者都需要一个能把人拉回来的入口。

mixedCondition 把混合的三个成立条件写成可核对的清单。评审时如果三个条件只满足一个,就不要叫混合,直接选嵌入或后台,避免用「混合」掩盖没有设计好的入口。

三种常见误配

形态选错,通常不是选了一个不存在的形态,而是把一种形态用在了它不承担的责任上。

用对话承载执行。 执行任务需要动作落点、前后值和回滚句柄,聊天框只记录对话,不记录动作。用户以为自己在指挥 Agent,实际上是在给 Agent 当接口。

用后台承载审批。 审批需要人在效果发生前点头,后台把确认推到了事后。把审批做成后台,等于把「不同意」变成「事后追认」,风险敞口没有缩小。

用嵌入承载高频低价值任务。 嵌入的打断成本最高,适合「看一眼就能判断」的少量关键任务。把一个每天几百次、每次都不需要人判断的任务嵌进工作台,用户会很快学会无视它。

三种误配的共同点是:形态承担的责任超过了它能承载的范围。判断方法不是看界面像不像,而是看错误在哪里被发现、确认在哪里发生、动作能不能回滚。

小结

  • 三个案例的形态不是偏好,而是自主度与责任位置的对应:建议和草稿在人的工作现场,所以嵌入;执行在工作现场之外,所以后台。
  • A Relay 的建议必须贴着工单字段被确认,所以嵌入工单页侧栏,可见性 L2。
  • B Quill 的草稿必须长在章节结构里被审改,所以嵌入报告编辑器,可见性 L1。
  • C Runner 的动作按批次在后台执行,任务中心只处理异常和回看,主形态是后台,可见性 L3。
  • 混合形态有三个成立条件:界内确认与界外执行同时存在、例外需要人就地处理、常规批次可以不看。
  • 任务中心不是混合;它只承担异常查看,不承担每一步确认。
  • 三种常见误配是用对话承载执行、用后台承载审批、用嵌入承载高频低价值任务。

阅读导航:上一节:1.2 形态选择的代价表 · 下一节:2.1 该让用户看到哪几步 。

常见错误与边界

  1. 把 A 和 B 的嵌入当成同一种。 两者形态相同,但 A 是 L2 依据、B 是 L1 步骤;可见性深度不同,不能互相套用。
  2. 把 C 的任务中心叫混合。 任务中心只处理异常和回看,不承担每一步确认;C 的主形态仍是后台。
  3. 用自主度直接套形态。 审批档通常也是嵌入,因为点头发生在界面里;只有场外执行加事前确认才升级为混合。
  4. 混合只做一个入口。 入口必须能改约束、跳过或回滚;只能看不能改,入口就是摆设。
  5. 把每批审批叫混合。 每批都要人点同意,是把后台做成了审批队列,会训练用户无脑点同意。
  6. 忽视可见性深度。 同样是嵌入,L1 和 L2 的审改方式不同;可见性不足会让用户反复确认,过高会让用户读不完。

形态定下来之后,下一个问题是:在选定的形态里,到底该让用户看到哪几步。第 2 章从「必看、可看、不必看」开始,把可见性从分级落到具体步骤。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图