《AI 产品的商业化·成本、毛利与收入运营》1.2 变动成本清单:token、推理、存储、第三方

变动成本不是一张 API 账单。本节把 LumenDesk 的 0.015 美元拆成 token、检索、存储与支付,把 Verba 的 0.0042 美元拆到分钟,把 ClausePilot 的 65 美元拆到人工复核,并给出重试率、免费层与月度总额的换算方法,最后落到可复用的成本清单字段。

以下三家公司与全部数字均为教学假设,用于演示商业化计算,不代表任何真实企业。

变动成本不是一张 API 账单

很多团队第一次做成本清单,会把供应商 API 账单导出来,按项目加总,然后把这个数当成变动成本。这样做能覆盖最大的一块,却会漏掉三类支出:支付通道费、人工复核、以及重试与失败产生的额外调用。

漏掉的原因不是粗心,而是这些支出不在同一张账单上。模型调用在供应商 A,存储在供应商 B,支付在支付服务商,人工复核在人力系统。它们各自都属于变动成本,但没有任何一个系统会把它们自动汇总。

所以变动成本清单的第一原则是:按「是否随这一次服务发生」收集,而不是按「是否在同一张发票上」收集。

三条判据:什么算变动成本

一个成本项要同时满足三条,才进入变动成本:

  1. 随用量变化。 用量归零,这项支出也应该趋近于零。
  2. 能被单次服务避免。 不发生这一次调用、这一次案件、这一分钟,就不用付这笔钱。
  3. 有可计量的驱动量。 能说清楚「按什么单位收费」,例如千 token、分钟、案件、GB。

三条都满足,才放进清单。只满足前两条但找不到驱动量的,通常是固定成本;只满足第三条但用量归零仍要付的,是承诺量或最低消费,需要单独处理。

按这三条筛,AI 产品的变动成本通常落在五类:模型推理、检索与重排、存储与带宽、第三方 API、人工交付。下面逐类拆。

token:输入与输出不是同一个价格

模型推理的计费单位是 token,但输入 token 与输出 token 的价格通常不同。LumenDesk 的平均一次对话是 1,800 个输入 token 加 450 个输出 token;输入单价 2.50 美元/百万 token,输出单价 10.00 美元/百万 token。

输入成本 = 1,800 ÷ 1,000,000 × 2.50 = 0.0045 美元
输出成本 = 450 ÷ 1,000,000 × 10.00 = 0.0045 美元
推理成本 = 0.0045 + 0.0045 = 0.0090 美元

两条成本刚好相等,但 token 数量差了四倍。这说明输出 token 的单价是输入的 4 倍,输出长度是更敏感的成本杠杆。同样增加 100 个 token,加在输出侧的成本是加在输入侧的 4 倍。

这也解释了一个常见现象:把回答写得更长,用户感知是「更详细」,成本感知却是「贵了四倍」。产品设计里如果允许模型自由扩写,必须同时设置输出长度上限,否则成本会随回答风格漂移。

上下文长度:均值和长尾的差距

1,800 token 是平均值。LumenDesk 的 P99 客户单次上下文是 30,000 token,是均值的 16.7 倍。按同样的输入单价,单次输入成本会从 0.0045 美元上升到 0.075 美元(30,000 ÷ 1,000,000 × 2.50);再加上输出与检索,单次成本可以达到 0.12 美元。

这就是为什么 token 成本不能只用均值做预算。均值告诉你「典型客户花多少」,分位数告诉你「最坏情况花多少」。成本清单里必须同时记录平均上下文长度和 P95、P99 上下文长度,否则预算会在长尾客户上失守。

模型侧的第二层:检索与存储

LumenDesk 的单次变动成本里,推理只占 0.0090 美元。向量检索 0.0020 美元、存储 0.0010 美元,两项合计 0.0030 美元。三项加起来 0.0120 美元,就是「模型侧成本」,占单次变动成本的 80.0%。

三者的驱动量不同:

  • 推理按输入与输出 token 计费;
  • 检索按查询次数与返回条数计费,和上下文长度关系不大;
  • 存储按索引大小与保存时长计费,和调用次数关系不大。

驱动量不同,优化手段也不同。推理可以靠压缩上下文与缓存命中降下来;检索可以靠减少 top-k、合并查询降下来;存储可以靠生命周期策略与冷热分层降下来。如果把它们混成一个「AI 成本」,就不知道该动哪个杠杆。

按月度口径,LumenDesk 的 1,190,400 次对话对应:推理 10,713.60 美元、检索 2,380.80 美元、存储 1,190.40 美元,三项合计 14,284.80 美元。这个拆分和单次口径完全一致:

10,713.60 + 2,380.80 + 1,190.40 = 14,284.80 美元
14,284.80 ÷ 17,856 = 80.0%

第三方:支付、OCR、语音与人工

第四类是第三方 API 与支付通道。LumenDesk 的支付与第三方费用是 0.0030 美元/次,占单次变动成本 20.0%。这部分通常按交易笔数或调用次数计费,和 token 无关,但和业务量强相关。

第五类是人工交付。ClausePilot 是最清楚的例子:单案件变动成本 65 美元,其中人工复核 35 美元、平台分摊 8 美元、模型推理与 OCR 合计 22 美元。

人工复核 = 0.5 小时 × 70 美元/小时 = 35.00 美元
人工复核占比 = 35.00 ÷ 65.00 = 53.8%
推理占比 = 22.00 ÷ 65.00 = 33.8%
平台分摊占比 = 8.00 ÷ 65.00 = 12.3%

人工复核之所以是变动成本而不是固定成本,是因为它随案件量同比变化。案件量下降,复核工时也下降;案件量上升,要么增加人手,要么积压。它没有「用量归零仍要付」的属性,所以必须进入毛利。

Verba 的结构更简单:单分钟推理 0.0035 美元、存储 0.0004 美元、支付与基础设施 0.0003 美元,合计 0.0042 美元。推理占 83.3%,存储占 9.5%,支付与基础设施占 7.1%。它的成本随分钟数严格线性,没有人工环节,但同样有免费层与重试两个隐藏项。

三案例的单位成本清单

把三家公司的单位成本放在一起,可以看到「变动成本」在不同计费结构下的形状完全不同:

案例计量单位变动成本最大项第二项第三项
LumenDesk一次对话0.0150 美元推理 0.0090(60.0%)支付与第三方 0.0030(20.0%)检索 0.0020(13.3%)
Verba API一分钟0.0042 美元推理 0.0035(83.3%)存储 0.0004(9.5%)支付与基础设施 0.0003(7.1%)
ClausePilot一个案件65.00 美元人工复核 35.00(53.8%)推理 22.00(33.8%)平台分摊 8.00(12.3%)

这张表最重要的信息不是数字,而是「最大项是谁」。LumenDesk 和 Verba 的最大项是推理,优化重点是模型与上下文;ClausePilot 的最大项是人工复核,优化重点是流程与产能。把三家公司都当成「模型成本问题」来管,ClausePilot 的 53.8% 就会被完全忽略。

从单价到月度总额

单位成本只有乘上用量,才能变成损益表上的数字。三家公司的换算如下:

LumenDesk:1,190,400 次 × 0.0150 美元 = 17,856 美元
Verba API:42,000,000 分钟 × 0.0042 美元 = 176,400 美元
ClausePilot:3,230 件 × 65.00 美元 = 209,950 美元

把月度变动成本放回收入与毛利:

案例月度收入月度变动成本月度毛利毛利率
LumenDesk103,296 美元17,856 美元85,440 美元82.7%
Verba API336,000 美元176,400 美元159,600 美元47.5%
ClausePilot785,400 美元209,950 美元575,450 美元73.3%

毛利率公式统一为:

毛利率 = (收入 − 变动成本) ÷ 收入

LumenDesk 是 (103,296 − 17,856) ÷ 103,296 = 82.7%;Verba 是 (336,000 − 176,400) ÷ 336,000 = 47.5%;ClausePilot 是 (785,400 − 209,950) ÷ 785,400 = 73.3%。三个结果都可以由单位成本乘用量复算,说明单次口径与月度口径是对齐的。

重试与失败:清单里的乘数

重试率不改变单价,但改变「获得一次成功服务」的实际成本。公式是:

有效单位成本 = 单位成本 ÷ (1 − 重试率)

LumenDesk 的重试率是 8%:

0.0150 ÷ (1 − 0.08) = 0.0150 ÷ 0.92 = 0.0163 美元

ClausePilot 的重试率是 11%:

65.00 ÷ (1 − 0.11) = 65.00 ÷ 0.89 = 73.03 美元

重试率进入清单的方式不是新增一个成本项,而是调整单位成本。清单里应该有一列「重试率」,并明确这个数来自计量系统,而不是运维口头估计。没有计量系统的团队,至少要先统计失败率与重试次数,否则有效成本永远算不准。

免费层:没有收入,但仍是变动成本

免费层经常被放在「市场费用」里,这在会计上可以讨论,在成本管理上却是危险的。免费用户同样消耗推理、存储与带宽,这些支出随免费用量变化,符合变动成本的三条判据。

Verba 的免费层是典型:8,000 个免费账户,每户每月额度 60 分钟,实际平均使用 42 分钟。

免费层用量 = 8,000 × 42 = 336,000 分钟
免费层月度成本 = 336,000 × 0.0042 = 1,411.20 美元
占收入比例 = 1,411.20 ÷ 336,000 = 0.4%

注意这里用的是实际用量 42 分钟,不是额度 60 分钟。按额度算会得到 8,000 × 60 × 0.0042 = 2,016 美元,高估 42.9%。免费层的成本预算必须按实际用量,而不是按「最多能用多少」。

0.4% 看起来很小,但它是持续发生的。免费层的风险不在单户成本,而在账户数与转化率的组合:账户数增长而转化率不变,成本会按比例放大。

哪些项目不该放进清单

清单要完整,但不能什么都往里塞。下面几类不应该进入变动成本:

  • CAC 与销售佣金。 它们随获客发生,不随服务发生,进入回本周期而不是毛利。
  • 研发与设计人力。 产品做完之后,多服务一个客户不会显著增加研发工时。
  • 合规认证与年审。 按年支付,不随单次调用变化,属于固定成本。
  • 办公、设备与行政。 与用量无关,进入全成本分摊。
  • 税费。 流转税通常从收入中扣除,不进入变动成本;所得税与毛利无关。

一个常见的边界争议是支付通道费。它按交易金额或笔数收费,随收入发生,应该进入变动成本。另一个争议是客服工单:如果工单量随客户用量上升,它更接近变动成本;如果只是偶发咨询,按固定人力处理更合适。判断标准仍然是那三条:随用量变化、能被单次服务避免、有可计量驱动量。

清单落地的五个字段

一张能用的变动成本清单,每行至少要有五个字段:

字段作用LumenDesk 示例
驱动量决定成本随什么变化对话次数
单位成本把驱动量换算成金额0.0150 美元/次
重试率把单价换成有效单价8%
账单来源让财务能对账模型、检索、支付三张月结单
责任人谁负责解释与优化平台工程负责人

五个字段缺一不可。没有驱动量,成本无法随业务量预测;没有重试率,有效成本被低估;没有账单来源,数字无法审计;没有责任人,异常没有人处理。

清单不需要一开始就很细。先把最大的三项列出来,跑通一个月度闭环,再逐步补充。最怕的是做了一张很漂亮的表,却没有任何一项能对到发票。

代码:把清单算成可测试的函数

下面的代码把 token 成本、单位变动成本、有效成本、成本占比与案件型成本封装成函数。所有金额用 micro-USD 或美分整数表示,避免浮点误差。

// file: src/ops/01-2-variable-costs.ts
// tier: L1
// verify: node --test test/ops/01-2-variable-costs.test.ts

// 变动成本清单:把供应商账单翻译成可比较的单位成本。

import { type Bps } from "../core/rate.ts";

export type TokenPrice = {
  inputMicrosPerMillion: number;
  outputMicrosPerMillion: number;
};

export type TokenUsage = {
  inputTokens: number;
  outputTokens: number;
};

/** 单次调用的 token 成本,单位 micro-USD。 */
export function tokenMicros(usage: TokenUsage, price: TokenPrice): number {
  const input = (usage.inputTokens * price.inputMicrosPerMillion) / 1_000_000;
  const output = (usage.outputTokens * price.outputMicrosPerMillion) / 1_000_000;
  return Math.round(input + output);
}

export type UnitCostParts = {
  inferenceMicros: number;
  retrievalMicros: number;
  storageMicros: number;
  thirdPartyMicros: number;
};

export function totalVariableMicros(parts: UnitCostParts): number {
  return parts.inferenceMicros + parts.retrievalMicros + parts.storageMicros + parts.thirdPartyMicros;
}

/** 有效单位成本:重试与失败同样产生上游账单。 */
export function effectiveUnitMicros(unitMicros: number, retryBps: Bps): number {
  const successBps = 10_000 - retryBps;
  if (successBps <= 0) return 0;
  return Math.round((unitMicros * 10_000) / successBps);
}

/** 单项占单位变动成本的比重,单位基点。 */
export function shareBps(partMicros: number, totalMicros: number): number {
  if (totalMicros <= 0) return 0;
  return Math.round((partMicros / totalMicros) * 10_000);
}

export type CaseCostParts = { inferenceMicros: number; humanReviewMicros: number; platformMicros: number };

export function caseVariableMicros(parts: CaseCostParts): number {
  return parts.inferenceMicros + parts.humanReviewMicros + parts.platformMicros;
}

export const LUMENDESK_TOKEN_PRICE: TokenPrice = {
  inputMicrosPerMillion: 2_500_000,
  outputMicrosPerMillion: 10_000_000,
};
export const LUMENDESK_AVG_CALL: TokenUsage = {
  inputTokens: 1_800,
  outputTokens: 450,
};
export const LUMENDESK_CALL_PARTS: UnitCostParts = {
  inferenceMicros: 9_000,
  retrievalMicros: 2_000,
  storageMicros: 1_000,
  thirdPartyMicros: 3_000,
};
export const VERBA_MINUTE_PARTS: UnitCostParts = {
  inferenceMicros: 3_500,
  retrievalMicros: 0,
  storageMicros: 400,
  thirdPartyMicros: 300,
};
export const CLAUSEPILOT_CASE: CaseCostParts = {
  inferenceMicros: 22_000_000,
  humanReviewMicros: 35_000_000,
  platformMicros: 8_000_000,
};

测试会把五件事固定下来:LumenDesk 的 token 成本是 9,000 micro-USD,单次变动成本是 15,000 micro-USD,模型侧占 8,000 个基点;Verba 的单分钟成本是 4,200 micro-USD,推理占 8,333 个基点;ClausePilot 的单案件成本是 65,000,000 micro-USD,人工复核占 5,385 个基点。8% 重试率下,有效成本是 16,304 micro-USD。

小结

  • 变动成本按「是否随服务发生」收集,不能只按「是否在同一张发票上」收集。
  • 三条判据:随用量变化、能被单次服务避免、有可计量的驱动量。
  • LumenDesk 单次成本 0.0150 美元=推理 0.0090+检索 0.0020+存储 0.0010+支付 0.0030。
  • Verba 单分钟成本 0.0042 美元,推理占 83.3%,成本随用量严格线性。
  • ClausePilot 单案件 65 美元,人工复核 35 美元占 53.8%,是最大变动成本项。
  • 重试率要折成有效单价:LumenDesk 0.0163 美元,ClausePilot 73.03 美元。
  • 免费层按实际用量计:Verba 是 42 分钟,不是 60 分钟额度。
  • 清单每行至少要有驱动量、单位成本、重试率、账单来源、责任人五个字段。

阅读导航:上一节:1.1 商业成本与技术成本的区别 · 下一节:1.3 成本归因到产品、客户与功能 。

常见错误与边界

  • 把 API 账单当成全部变动成本,漏掉支付通道、人工复核与重试。
  • 用免费层额度而不是实际用量做预算,Verba 会高估 42.9%。
  • 只按平均上下文长度算 token 成本,忽略 P99 客户 30,000 token 的长尾。
  • 把人工复核当固定成本,导致 ClausePilot 的毛利率被高估。
  • 把 CAC、研发与合规认证塞进变动成本,使毛利率随规模与组织变化。
  • 重试率只记录在运维报表,没有进入成本模型,有效单价长期被低估。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图