《AI Agent 产品开发·组织、平台与规模化》6.1 责任地图:出事了谁来担

机器不担责,担责的是部署它的组织与具体角色。本节给出六阶段责任地图模板,用 A Relay、B Quill、C Runner 各画一张,指出 A 与 B 各有一格「做了但没人知道」的未定义,并说明对外承诺如何落到有人负责的内部节点,以及空格为什么是设计缺口。

以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。

Agent 出错时,最常见的追问是「它是怎么判断的」。这个追问看起来在找原因,实际上在找一个能负责的人。机器不会出席复盘会,也不会在事故报告上签字;能签字的,永远是部署它的组织里的某个具体角色。

责任地图的作用,就是在上线之前把「谁签字」这件事画清楚。它不是组织架构图,也不是 RACI 表格的翻版,而是一张按任务阶段展开的图:每个阶段谁决定、谁执行、谁审核、谁对外,哪一格是空的。空的那一格,就是出事时最容易变成「大家都以为别人管」的地方。

机器不担责,担责的是部署它的组织

这句话不是道德判断,而是产品设计的前提。Agent 可以执行动作、可以生成建议、可以留下日志,但它不承担后果。后果落在三类人身上:批准它上线的人、定义它任务的人、在事故发生时处置的人。

因此责任地图里,机器只能出现在「执行者」这一列。它可以是运行中的动作执行者,也可以是草稿的生成者,但不能是「负责人」,也不能是「审核人」。一旦某张图把 Agent 写成责任人,这张图就失去意义:出事时找不到人,复盘会变成技术讨论,改进无法落地。

把机器放回执行者位置之后,问题才真正开始:那些原本由人执行、现在由机器执行的环节,责任是跟着转移了,还是留在了原处?答案通常是后者。机器接手了动作,人仍然要为「允许它做」和「它做错了怎么办」负责。

责任地图模板:六个阶段、四类角色

一张可用的责任地图,至少覆盖六个阶段。阶段太少会漏掉对外沟通,阶段太多会变成流程手册。

阶段要回答的问题常见责任人
任务定义做什么、不做什么、验收标准谁定产品负责人
上线批准谁有权允许它碰真实数据与动作业务负责人
运行中的动作谁执行、谁在运行中审核产品负责人 + Agent
结果复核动作完成后谁检查对错产品、合规或业务
事故处置出错后谁决定回滚、补偿、停用业务负责人
对外沟通谁向客户、监管或公众说明业务负责人 + 合规

每个阶段填三列:谁负责(accountable)、谁执行(executor)、谁审核(reviewer)。负责与执行可以不是同一个人;审核可以是同一个人,也可以是独立角色。三列都填满,才说明这个阶段有人管。

三案例各画一张

三个案例的责任地图,差别不在阶段数量,而在哪一格是空的。

A Relay:建议档。 支持团队 9 人,月工单 26,400 单。Agent 只给建议,支持人员确认后才写入队列。任务定义、上线批准、运行中的动作、事故处置、对外沟通都有人,唯独「建议被采纳后仍然出错」这一格没有复核人。

阶段负责执行审核
任务定义产品负责人产品负责人业务负责人
上线批准业务负责人工程负责人合规
运行中的动作产品负责人Agent产品负责人
结果复核未定义产品负责人未定义
事故处置业务负责人产品负责人合规
对外沟通业务负责人产品负责人合规

A 的这一格是典型的「做了但没人知道」。建议被采纳、写入队列、工单继续流转,如果分诊错了,客户体验和 SLA 承诺受影响,但没有人被指定去事后复核这类错误。它不是技术漏洞,而是责任设计的空白。

B Quill:草稿档。 咨询团队 15 人,月报告 606 份。Agent 出初稿,顾问审改并署名。任务定义、上线批准、运行中的动作、结果复核、事故处置都有人,唯独「报告发出后客户发现事实错误,谁对外更正」这一格没有定义。

阶段负责执行审核
任务定义产品负责人产品负责人业务负责人
上线批准业务负责人工程负责人合规
运行中的动作产品负责人Agent产品负责人
结果复核产品负责人产品负责人合规
事故处置业务负责人产品负责人合规
对外沟通未定义产品负责人未定义

B 的这一格同样不能糊过去。报告已经以顾问名义发出,客户发现事实错误,谁去更正、以什么口径更正、要不要补发说明,都没有人负责。它和 A 的空格是同一类问题:动作完成了,责任没有跟上。

C Runner:执行档。 运营团队 24 人,月任务 13,200 个。Agent 自动执行,人事后审计。C 的地图六个阶段都有人,因为它的动作有 86% 可回滚、14% 是不可逆的客户通知,必须提前指定谁处置、谁对外说明。

阶段负责执行审核
任务定义产品负责人产品负责人业务负责人
上线批准业务负责人工程负责人合规
运行中的动作业务负责人Agent产品负责人
结果复核合规产品负责人合规
事故处置业务负责人工程负责人合规
对外沟通业务负责人产品负责人合规

C 的地图不是天生完整,而是被它的自主度逼出来的。执行档没有人逐单确认,如果结果复核和对外沟通再没有指定人,出事时就没有任何人工节点可以介入。

两格「未定义」不能糊过去

A 与 B 各有一格未定义,这两格最容易被一句「由负责人兜底」盖住。但「负责人」是谁、兜什么底、什么时候介入,都没有回答。

「由负责人兜底」之所以危险,是因为它听起来像已经有人负责,实际上只是把问题推迟到事故现场。事故发生时,大家会先找「负责人」,然后发现负责人不止一个,或者负责人认为是另一个角色的事。责任地图的价值,恰恰是拒绝这种模糊。

正确的处理不是马上填一个名字,而是先判断这一格该不该存在。A 的「结果复核」如果确实不需要,就应该明确写成「不做复核,接受该风险」,并由业务负责人签字;如果需要,就必须指定一个角色、一个触发条件和一套检查动作。B 的「对外沟通」同理:要么明确由顾问团队负责人承担,要么明确写「不主动更正,按客户投诉流程处理」。两种答案都可以,唯独「未定义」不行。

对外承诺与对内分工怎么对齐

责任地图还有第二个用途:检查对外承诺有没有内部节点接住。

案例对外承诺应落到的内部阶段地图现状
A Relay分诊错误不影响 SLA结果复核未定义,承诺没有接住
B Quill报告由顾问审改并署名对外沟通未定义,更正没有接住
C Runner动作可撤回、可补偿事故处置已定义,承诺有节点

A 对客户承诺的是分诊质量,但「采纳后仍出错」没有复核人,承诺就悬在空中。B 对客户承诺的是顾问署名,但报告发出后的更正没有指定人,署名带来的责任没有落地。C 承诺动作可撤回,事故处置阶段有业务负责人和工程负责人,承诺能落到具体动作。

用代码检查地图的洞

责任地图如果只画在文档里,评审时很容易被「看起来都有人」骗过去。下面这个模型把六个阶段、三类角色和对外承诺写成可检查的结构:它能列出未定义的阶段,也能判断一张图里有没有把 Agent 写成责任人。

// file: src/scale/06-1-liability-map.ts
// tier: L2
// verify: node --test test/scale/06-1-liability-map.test.ts

// 机器不担责。担责的是部署它的组织与具体角色。
// 责任地图要能回答:谁决定、谁执行、谁审核、谁对外,以及哪一格是空的。

import { divide } from "../core/rate.ts";

export type Role =
  | "product"
  | "business"
  | "engineering"
  | "compliance"
  | "vendor"
  | "agent";

export type Stage =
  | "task-definition"
  | "go-live"
  | "runtime-action"
  | "outcome-review"
  | "incident-response"
  | "external-communication";

export const STAGE_ORDER: readonly Stage[] = [
  "task-definition",
  "go-live",
  "runtime-action",
  "outcome-review",
  "incident-response",
  "external-communication",
];

export const STAGE_LABEL: Record<Stage, string> = {
  "task-definition": "任务定义",
  "go-live": "上线批准",
  "runtime-action": "运行中的动作",
  "outcome-review": "结果复核",
  "incident-response": "事故处置",
  "external-communication": "对外沟通",
};

export const ROLE_LABEL: Record<Role, string> = {
  product: "产品负责人",
  business: "业务负责人",
  engineering: "工程负责人",
  compliance: "合规",
  vendor: "供应商",
  agent: "Agent(执行者,不担责)",
};

export type StageCell = {
  readonly accountable: Role | "undefined";
  readonly executor: Role;
  readonly reviewer: Role | "undefined";
  readonly note: string;
};

export type LiabilityMap = Record<Stage, StageCell>;
export type CaseKey = "A" | "B" | "C";

function cell(
  accountable: Role | "undefined",
  executor: Role,
  reviewer: Role | "undefined",
  note: string,
): StageCell {
  return { accountable, executor, reviewer, note };
}

// A Relay:建议档。人确认后动作才生效,但「采纳后仍出错」没有复核人。
export const RELAY_MAP: LiabilityMap = {
  "task-definition": cell(
    "product",
    "product",
    "business",
    "支持团队定义队列、优先级与模板编号",
  ),
  "go-live": cell("business", "engineering", "compliance", "支持负责人批准上线"),
  "runtime-action": cell(
    "product",
    "agent",
    "product",
    "Agent 只给建议,支持人员确认后写入",
  ),
  "outcome-review": cell(
    "undefined",
    "product",
    "undefined",
    "建议被采纳后仍出错,谁复核未定义",
  ),
  "incident-response": cell(
    "business",
    "product",
    "compliance",
    "分诊错误影响 SLA,业务负责人处置",
  ),
  "external-communication": cell(
    "business",
    "product",
    "compliance",
    "对客户的说明由业务负责人签发",
  ),
};

// B Quill:草稿档。顾问审改并署名,但报告发出后的事实错误没有对外更正人。
export const QUILL_MAP: LiabilityMap = {
  "task-definition": cell(
    "product",
    "product",
    "business",
    "咨询团队定义报告结构与数据包字段",
  ),
  "go-live": cell("business", "engineering", "compliance", "业务负责人批准上线"),
  "runtime-action": cell(
    "product",
    "agent",
    "product",
    "Agent 出稿,顾问逐段审改并署名",
  ),
  "outcome-review": cell(
    "product",
    "product",
    "compliance",
    "事实核查由顾问完成,合规抽查",
  ),
  "incident-response": cell(
    "business",
    "product",
    "compliance",
    "报告返工由业务负责人决定",
  ),
  "external-communication": cell(
    "undefined",
    "product",
    "undefined",
    "报告发出后客户发现事实错误,谁对外更正未定义",
  ),
};

// C Runner:执行档。动作、审计、回滚与对外说明都有人。
export const RUNNER_MAP: LiabilityMap = {
  "task-definition": cell(
    "product",
    "product",
    "business",
    "运营团队定义规则、阈值与动作边界",
  ),
  "go-live": cell("business", "engineering", "compliance", "业务负责人批准上线"),
  "runtime-action": cell(
    "business",
    "agent",
    "product",
    "Agent 按规则执行,产品负责人抽检",
  ),
  "outcome-review": cell(
    "compliance",
    "product",
    "compliance",
    "8% 抽检与错误复盘由合规牵头",
  ),
  "incident-response": cell(
    "business",
    "engineering",
    "compliance",
    "回滚与补偿由业务负责人决策",
  ),
  "external-communication": cell(
    "business",
    "product",
    "compliance",
    "已发通知的更正说明由业务负责人签发",
  ),
};

export const CASE_MAPS: Record<CaseKey, LiabilityMap> = {
  A: RELAY_MAP,
  B: QUILL_MAP,
  C: RUNNER_MAP,
};

export function undefinedStages(map: LiabilityMap): readonly Stage[] {
  return STAGE_ORDER.filter(
    (stage) =>
      map[stage].accountable === "undefined" ||
      map[stage].reviewer === "undefined",
  );
}

export function isComplete(map: LiabilityMap): boolean {
  return undefinedStages(map).length === 0;
}

export function accountableFor(
  map: LiabilityMap,
  stage: Stage,
): Role | "undefined" {
  return map[stage].accountable;
}

// 机器只能出现在 executor 位;一旦出现在 accountable 位,这张图就是错的。
export function machineOwnedStages(map: LiabilityMap): readonly Stage[] {
  return STAGE_ORDER.filter((stage) => map[stage].accountable === "agent");
}

export type ExternalPromise = "sla" | "authorship" | "rollback";

export const PROMISE_LABEL: Record<ExternalPromise, string> = {
  sla: "SLA 承诺",
  authorship: "署名与发布",
  rollback: "可撤回与补偿",
};

// 对外承诺必须能落到一个有人负责的内部节点。
export const PROMISE_STAGE: Record<ExternalPromise, Stage> = {
  sla: "outcome-review",
  authorship: "external-communication",
  rollback: "incident-response",
};

export const CASE_PROMISES: Record<CaseKey, readonly ExternalPromise[]> = {
  A: ["sla"],
  B: ["authorship"],
  C: ["rollback"],
};

export function misalignedPromises(
  map: LiabilityMap,
  promises: readonly ExternalPromise[],
): readonly ExternalPromise[] {
  return promises.filter((promise) => {
    const stage = PROMISE_STAGE[promise];
    return map[stage].accountable === "undefined";
  });
}

export function promiseCoverage(
  map: LiabilityMap,
  promises: readonly ExternalPromise[],
): number {
  const aligned = promises.length - misalignedPromises(map, promises).length;
  return divide(aligned, promises.length);
}

undefinedStages 同时检查「负责」和「审核」两列,任一为空就算这一阶段未定义。A 返回 outcome-review,B 返回 external-communication,C 返回空数组。这个结果和事实表一致,也说明两张图各有一个真实的洞。

machineOwnedStages 检查「负责」列里有没有出现 Agent。三张图都返回空数组,因为机器只能执行,不能负责。这个检查看起来多余,但它能挡住一种常见的偷懒写法:把「Agent 自动处理」直接写成责任人。

misalignedPromises 把对外承诺映射到内部阶段。A 的 SLA 承诺落到结果复核,返回未对齐;B 的署名承诺落到对外沟通,返回未对齐;C 的可撤回承诺落到事故处置,返回空数组。promiseCoverage 则把对齐程度折算成 bps,A 是 0,C 是 10000。

责任地图的三个使用场景

第一,上线评审。 把地图作为上线材料的一页,任何未定义阶段都要在会上给出结论:补人、接受风险或暂缓上线。A 和 B 的地图如果在上线前被这样检查,两个空格不会留到事故现场。

第二,事故复盘。 复盘时先看地图,确认事故落在哪个阶段、那一格的负责人是谁。如果落在未定义格,复盘的第一条改进就不是「加强模型」,而是「补责任」。

第三,组织调整。 团队换人、业务合并、供应商切换时,地图要重新检查。阶段没变,负责人可能变了;承诺没变,承接的节点可能没了。

小结

  • 机器不担责,担责的是部署它的组织与具体角色;Agent 只能出现在执行者位置。
  • 责任地图覆盖六个阶段:任务定义、上线批准、运行中的动作、结果复核、事故处置、对外沟通。
  • 每个阶段填负责、执行、审核三列,三列都有人才说明这一阶段有人管。
  • A Relay 的「结果复核」未定义:建议被采纳后仍出错,没有指定复核人。
  • B Quill 的「对外沟通」未定义:报告发出后客户发现事实错误,没有指定更正人。
  • 两格未定义不能用「由负责人兜底」盖住;要么补人,要么明确接受风险并签字。
  • 对外承诺要逐条落到内部阶段:A 的 SLA、B 的署名、C 的可撤回,只有 C 接住了。
  • 地图在上线评审、事故复盘、组织调整三个场景使用,上线评审最关键。

阅读导航:上一节:5.3 供应商退出与数据取回 · 下一节:6.2 审计要求的产品化 。

常见错误与边界

  1. 把 Agent 写成责任人。 机器不会出席复盘会,也不会签字;责任人必须是组织里的具体角色。
  2. 只填「负责」,不填「审核」。 负责与审核是两道不同的关口,只有负责没有人审核,错误会在动作完成后才被发现。
  3. 用「由负责人兜底」盖住空格。 这句话没有回答是谁、兜什么、何时介入,等于把问题推迟到事故现场。
  4. 忽略对外沟通阶段。 A 与 B 的空格都在「做了但没人知道」的位置,事故发生时第一个被问到的就是谁去说。
  5. 对外承诺不落到内部阶段。 承诺 SLA 却没有复核人,承诺署名却没有更正人,承诺就是悬空的。
  6. 组织调整后不重画地图。 阶段没变、负责人变了,旧地图会指向已经不在其位的人。

这一节把「谁担责」画成了可检查的图。下一节往下走一层:责任要能被证明,就必须有审计;审计要产品化,得先回答记录什么、留多久、删除权来了怎么办。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图