《AI Agent 产品开发·组织、平台与规模化》8.1 Agent 产品的成本解剖

Agent 产品的成本不是一张模型账单,而是人工、系统、维护三条线。本节用 A Relay、B Quill、C Runner 的成本结构说明:系统成本只占原人工的 0.97%、0.25%、0.80%,真正的大头是人工兜底、维护摊销、评测数据与组织摩擦。看懂这张解剖图,才不会把降本做成降模型单价。

以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。

Agent 产品的预算表通常只有一行显眼数字:模型调用。它按月结算、按 token 计价、看得见也说得清,于是很容易成为成本讨论的全部。但把三个案例的成本拆开,模型加基础设施只占原人工的 0.97%、0.25%、0.80%——不到百分之一。

真正决定总成本的是另外两条线:人还要做多少,以及让系统持续正确要花多少。这一节先把成本分成人工、系统、维护三条线,再指出四类最容易被预算表漏掉的成本。核心判断是:系统成本占比很低,真正的成本是人工兜底与组织摩擦。

三条线必须分开记

成本线包含什么不包含什么
人工Agent 介入后仍需支付的确认、审改、转人工、审计时间模型耗时、部署与培训的一次性投入
系统模型调用、基础设施分摊维护、标注、评测
维护提示词、评测、规则、数据标注、回滚演练的月度摊销新增功能开发

三条线分开记,是为了回答不同问题。人工线回答「人还要做多少」,系统线回答「机器跑一次多少钱」,维护线回答「让它持续正确要花多少」。把三者混成一个「总成本」,就无法判断降本应该降哪里。

以 A Relay 为例:纯人工月成本 46,200 美元;Agent 介入后人工 9,900 美元,系统 448.8 美元,维护 1,200 美元,月总成本 11,548.8 美元。系统只占 448.8,维护是系统的两倍多。如果只盯系统成本,会得出「模型再便宜一点就能省更多」的结论;实际上把模型降到零,A 的月总成本也只降到 11,100 美元。

系统成本占比不到百分之一

三个案例的系统成本占原人工比例分别是 0.97%、0.25%、0.80%。这个量级说明:在 Agent 产品里,模型调用不是成本主体,人的时间才是。

案例纯人工月成本系统月成本系统占原人工维护月摊销
A Relay46,200 美元448.8 美元0.97%1,200 美元
B Quill76,356 美元193.92 美元0.25%2,400 美元
C Runner118,800 美元950.4 美元0.80%3,600 美元

B 的系统占比最低,只有 0.25%,但 B 的单份报告要 45,000 input token、4,200 output token,模型调用 0.198 美元一份。它占比低不是因为模型便宜,而是因为报告的人工基线太贵:一份 4.2 小时,折合 126 美元。系统成本再翻倍,相对人工仍然很小。

C 的系统占比 0.80%,略高于 A 和 B,因为 C 有 13,200 个任务、每个任务都要调度、审计和记录。即便如此,950.4 美元的系统成本相对于 118,800 美元的纯人工仍然可以忽略。C 的成本问题从来不是模型贵,而是转人工和审计怎么算。

维护摊销:比模型贵,且不会停

三家的维护摊销都超过模型加基础设施之和:A 1,200 对 448.8,B 2,400 对 193.92,C 3,600 对 950.4。B 的维护甚至是系统成本的十二倍以上。

维护为什么贵?因为它买的是「持续正确」:

  • 提示词要随业务规则变,不是写完就冻结;
  • 评测集要随失败模式变,旧样本会逐渐失效;
  • 数据标注要随口径变,历史样本需要重新核对;
  • 回滚演练要定期做,否则回滚句柄只是代码里的一个函数。

这些工作没有一次性完成的时点。模型上线那天,维护才刚开始;系统成本随调用量波动,维护成本随业务复杂度只增不减。把维护当成「上线后再说」的项目,第一年就会发现自己一直在补上线的债。

维护还有一个特点:它不随用量下降。A 即使某个月工单量减半,模型调用会减半,维护的提示词、评测与标注仍然要做。这意味着系统成本是变动成本,维护更接近固定成本。用「单位模型成本 × 用量」去推总成本,会把固定部分漏掉。把成本归因到租户或任务线时,口径与 成本模型 一致;本书只额外要求把维护摊销与人工兜底计入产品总成本。

人工兜底:C 的 3.08 分钟

C Runner 的审计抽检比例是 8%,单次复核 12 分钟,摊销到每个任务是 0.96 分钟;自动完成率 78%,其余 22% 转人工,转人工平均 14 分钟,摊销到每个任务是 3.08 分钟。C 的真实人工是 4.04 分钟一个任务,不是 0.96。

这个差值是全书最重要的成本陷阱:只算审计不算转人工,C 的月人工成本会从 26,664 美元变成 6,336 美元,月总成本从 31,214.4 美元变成 10,886.4 美元,节省率从 73.7% 夸大成 90.8%。第 8.3 节会用代码把这两个版本并排算出来。

人工兜底不只在 C 身上发生。A 的 45 秒确认里包含 22% 的修改,B 的 1.6 小时审改里包含 9% 的返工。这些时间都不是「异常」,而是产品设计的正常部分。把它们记成异常,预算表就会少掉一大块。

另外两类:评测数据与组织摩擦

除了人工兜底与维护摊销,还有两类成本经常不在预算表里:

成本为什么被漏掉什么时候暴露
评测与数据不在系统账单里,像是一次性项目换模型、换供应商、审计时
组织摩擦培训、流程改写、审批与责任划分消耗管理时间放量、岗位调整、考核变更时

评测与数据的成本会以「维护」的形式出现,但它的工作量往往被低估。B 的事实错误率是 4.6%,要守住这条线,需要持续维护事实核对清单;C 的审计发现错误率是 1.7%,要判断这 1.7% 是否可接受,需要有人持续看样本。

组织摩擦没有账单,但它会拖慢放量。A 的流程改造是「叠加」,岗位从执行者变成审核者,考核未改;B 是「叠加 + 局部替换」,考核部分改;C 是「局部替换」,考核改成拦截率与例外。改造越深,组织摩擦越大,而它不会出现在任何一条成本线里。

把成本结构写成可复算的模型

下面的模型把三条线做成 CostStructure,所有数字都从月任务量、分钟数和单价推出,不手写总额。systemShareBps 算系统占原人工,costMix 算三条线各占总成本多少,maintenanceExceedsSystem 检查维护是否超过系统。

// file: src/econ/08-1-cost-anatomy.ts
// tier: L2
// verify: node --test test/econ/08-1-cost-anatomy.test.ts

// 成本解剖:人工、系统、维护三条线分开记。
// 系统成本占原人工的比例很小,真正决定总成本的是人还要做多少。

import {
  HOUR_CENTS,
  QUILL,
  RELAY,
  RUNNER,
  type Profile,
} from "../cases.ts";
import { divide, type Bps } from "../core/rate.ts";
import type { Cents } from "../core/money.ts";

// 任意分钟口径的月人工成本;模型耗时永远不进入这个函数。
export function monthlyLaborCents(
  profile: Profile,
  minutesPerTask: number,
): Cents {
  return Math.round(
    (profile.monthlyTasks * minutesPerTask * HOUR_CENTS) / 60,
  );
}

// 模型 + 基础设施,按单任务成本乘月任务量。
export function monthlySystemCents(profile: Profile): Cents {
  return Math.round(
    profile.monthlyTasks * (profile.modelCents + profile.infraCents),
  );
}

export type CostStructure = {
  readonly key: "A" | "B" | "C";
  /** Agent 介入前的纯人工月成本 */
  readonly manualCents: Cents;
  /** Agent 介入后仍需支付的人工月成本 */
  readonly humanCents: Cents;
  /** 模型调用 + 基础设施 */
  readonly systemCents: Cents;
  /** 维护摊销:提示词、评测、标注、规则与演练 */
  readonly maintenanceCents: Cents;
};

export function structure(profile: Profile): CostStructure {
  return {
    key: profile.key,
    manualCents: monthlyLaborCents(profile, profile.manualMinutes),
    humanCents: monthlyLaborCents(profile, profile.humanMinutes),
    systemCents: monthlySystemCents(profile),
    maintenanceCents: profile.maintenanceCents,
  };
}

export function totalCents(s: CostStructure): Cents {
  return s.humanCents + s.systemCents + s.maintenanceCents;
}

export function savingsCents(s: CostStructure): Cents {
  return s.manualCents - totalCents(s);
}

// 系统成本占原人工:A 0.97%,B 0.25%,C 0.80%。
export function systemShareBps(s: CostStructure): Bps {
  return divide(s.systemCents, s.manualCents);
}

// 三位成本线各自占总成本的比例,用基点表示。
export type CostMix = {
  readonly human: Bps;
  readonly system: Bps;
  readonly maintenance: Bps;
};

export function costMix(s: CostStructure): CostMix {
  const total = totalCents(s);
  return {
    human: divide(s.humanCents, total),
    system: divide(s.systemCents, total),
    maintenance: divide(s.maintenanceCents, total),
  };
}

// 维护摊销是否超过模型加基础设施:三家都为真。
export function maintenanceExceedsSystem(s: CostStructure): boolean {
  return s.maintenanceCents > s.systemCents;
}

// 百分比保留两位,用于 0.97% 这类小占比。
export function formatShare(bps: Bps): string {
  return `${(bps / 100).toFixed(2)}%`;
}

export type NeglectedCost = {
  readonly id: "human-fallback" | "maintenance" | "eval-data" | "org-friction";
  readonly label: string;
  readonly why: string;
};

// 四类容易被预算表漏掉、却真实发生的成本。
export const NEGLECTED_COSTS: readonly NeglectedCost[] = [
  {
    id: "human-fallback",
    label: "人工兜底",
    why: "转人工、复核、返工都按分钟计费,但常被算成「异常处理」而不入预算。",
  },
  {
    id: "maintenance",
    label: "维护摊销",
    why: "提示词、评测、规则与回滚演练每月都要重做,且通常高于模型加基础设施。",
  },
  {
    id: "eval-data",
    label: "评测与数据",
    why: "评测集、标注、事实核对不在系统账单里,却决定错误率能不能守住。",
  },
  {
    id: "org-friction",
    label: "组织摩擦",
    why: "培训、流程改写、审批与责任划分消耗的是管理时间,不产生直接账单。",
  },
];

export function caseStructure(key: "A" | "B" | "C"): CostStructure {
  if (key === "A") return structure(RELAY);
  if (key === "B") return structure(QUILL);
  return structure(RUNNER);
}

monthlyLaborCents 只接受分钟口径,模型耗时不会进入这个函数;monthlySystemCents 只算模型加基础设施,维护单独传入。structure 把三个案例的纯人工、Agent 后人工、系统与维护一次算清,totalCents 与 savingsCents 都从这四条线推出。

systemShareBps 在三个案例上分别得到 0.97%、0.25%、0.80%,与事实表一致。costMix 用基点表示三条线的占比:A 的人工约 85.7%、系统约 3.9%、维护约 10.4%;B 的人工约 91.8%、系统约 0.6%、维护约 7.6%;C 的人工约 85.4%、系统约 3.0%、维护约 11.5%。这组数字比「系统成本 448.8 美元」更能说明成本主体在哪里。

小结

  • Agent 产品的成本要分三条线:人工、系统、维护;混在一起就无法判断降本方向。
  • 系统成本占原人工只有 0.97%、0.25%、0.80%,模型调用不是成本主体。
  • 维护摊销在三家都超过模型加基础设施,B 甚至是系统成本的十二倍以上。
  • 人工兜底是正常成本,不是异常;C 的真实人工是 4.04 分钟,不是 0.96。
  • 漏算转人工会把 C 的节省率从 73.7% 夸大成 90.8%,这是成本表最常见的错误。
  • 评测数据与组织摩擦不在账单里,却会拖慢切换与放量。
  • 看成本结构要看占比,不要只看绝对金额;系统金额小,人工与维护才是大头。

阅读导航:上一节:7.3 锁定成本与退出演练 · 下一节:8.2 价值单位与计费点的产品决策 。

常见错误与边界

  1. 只算模型调用。 系统成本占原人工不到百分之一,只盯它会把降本做成降单价。
  2. 把维护当成一次性投入。 提示词、评测、标注与演练每月都要重做,维护比系统更贵。
  3. 把转人工记成异常。 C 的 3.08 分钟是 22% 任务必然发生的人工,不是偶发故障。
  4. 把模型耗时算进人工。 人机总耗时可以描述节奏,但人工成本只算人真正花的时间。
  5. 用总额比较案例。 三家任务量差异大,比较成本要看单位成本与占比,不能只看月总额。
  6. 忽略组织摩擦。 培训、流程改写与考核变更没有账单,却决定放量能不能落地。

成本结构清楚之后,下一个问题是:这些成本应该按什么单位收回来。下一节比较按席位、按任务、按结果、按节省四种计费方式。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图