《AI 产品的商业化·价值与定价》7.1 额度粒度:按请求、按 token、按结果

额度按什么计量,决定了客户如何理解价格、系统如何防止套利。本节用 LumenDesk 每席位 500 次额度与 620 次实际用量,分别按请求、按 token、按结果计费,算出三种口径下的单位收入、超额费用与套利方向,并给出选择粒度的四条判断标准。

以下三家公司与全部数字均为教学假设,用于演示商业化计算,不代表任何真实企业。

额度不是一个数字,而是一套计量规则

讨论额度时,最容易犯的错误是把它当成一个孤立的数字:每月给 500 次还是 1,000 次?这个问法跳过了更前置的问题——什么算「一次」。

「一次」的定义就是计量粒度。粒度决定了三件事:客户实际支付的价格如何随用量变化;供应商承担多大的单位波动;以及套利会从哪个缝隙里长出来。同样是「每席位每月 49 美元,含 500 次」,如果一次请求可以塞进一万个 token,也可以只问一句「在吗」,那么这 500 次额度对供应商的含义完全不同。

LumenDesk 的案例把这个问题摆得很清楚:每个席位每月 49 美元,含 500 次对话,实际平均用量 620 次,超额部分每次 0.04 美元。500 与 620 这两个数只回答了「额度够不够」,没有回答「一次对话到底计什么」。本节就把后者拆开。

三种粒度分别在数什么

常见的粒度只有三类,差别不在技术实现,而在「谁承担单位内部的波动」。

粒度计费单位客户看到的价格供应商承担的风险典型形态
按请求一次调用或一次对话美元/次单次请求越做越长、越做越复杂订阅额度 + 超额按次
按 token一千个输入或输出 token美元/千 token输入输出结构、缓存命中、重试模型 API、纯用量产品
按结果一个案件、工单或已解决会话美元/结果返工、复核、验收争议垂直行业结果计费

三种粒度都不是「纯」的。LumenDesk 是席位底座加请求超额,Verba API 是纯分钟用量,ClausePilot 是平台费加按案件计费。底座负责覆盖可预期的固定成本与承诺,计量单位负责承接波动。真正需要设计的是:波动放在哪一层,由谁承担。

按请求:把波动平均掉

按请求计费最符合客户的直觉。客户能数清楚自己发起过多少次对话,客服能解释账单,财务能对账。LumenDesk 的每席位账就是这样算出来的:

超额次数 = 620 - 500 = 120 次
超额费用 = 120 × 0.04 = 4.80 美元
每席位月收入 = 49 + 4.80 = 53.80 美元
每次对话收入 = 53.80 ÷ 620 = 0.0868 美元

三个比例值得记住。额度覆盖率是 500 ÷ 620 = 80.6%,也就是说约两成用量落在额度之外;超额用量占全部用量的 120 ÷ 620 = 19.4%;超额收入占每席位收入的 4.80 ÷ 53.80 = 8.9%。这三个数决定了客户对「额度够不够」的体感,也决定了超额收入在 MRR 中的分量。

按请求计费的代价是:请求内部的长度没有被定价。事实表给出的 token 单价是输入每百万 token 2.50 美元、输出每百万 token 10.00 美元。换算成边际量,每多 1,000 个输入 token 增加 0.0025 美元成本,每多 1,000 个输出 token 增加 0.0100 美元成本。如果客户学会把四个任务合并进一次请求,供应商的收入按「一次」不变,成本却按 token 上涨。

这不是理论风险。按请求计费的产品通常要配三样东西:单次请求的 token 上限、上下文长度限制、以及对超长请求的单独计量。否则,粒度就把定价权交给了最会使用产品的客户。

按 token:与成本同构,但与客户语言不通

把 LumenDesk 的同一笔账换成 token 口径,可以看清「同构」是什么意思。一次对话平均 1,800 个输入 token 加 450 个输出 token,合计 2,250 个 token。每席位 500 次额度对应:

包含 token = 500 × 2,250 = 1,125,000 个
实际 token = 620 × 2,250 = 1,395,000 个
超额 token = 1,395,000 - 1,125,000 = 270,000 个

如果要用 token 粒度复现 4.80 美元的超额收入,每千 token 的超额单价应为 4.80 ÷ 270 = 0.017778 美元,也就是 17,778 micro-USD。此时每千 token 的收入是 53.80 ÷ 1,395 = 0.0386 美元;每千 token 的变动成本是 0.015 ÷ 2.25 = 0.00667 美元;两者相减,每千 token 毛利 0.0319 美元,毛利率仍是 82.7%。

这个结果说明一件事:粒度本身不改变毛利率,只改变波动的分配方式。只要价格按同一套成本校准,按请求和按 token 可以算出同样的毛利率。真正变化的是客户体验与套利面。

token 粒度的优点是和成本同构:长请求多付、短请求少付,缓存命中、重试、流式输出都能落到账上。缺点是客户无法预估。普通客户不知道一段 800 字的中文有多少 token,也不知道输出会被截断在哪里。输入与输出的单价还相差四倍(2.50 对 10.00 美元/百万 token),客户更难建立直觉。于是 token 计费的产品通常要提供用量仪表盘、单次请求明细和预算告警,否则账单争议会把支持成本吃掉。

token 粒度也有自己的套利方向:计数信任。客户无法独立验证 token 数,只能相信供应商的 tokenizer 与日志。这要求产品公开计数口径、保留每次请求的用量记录,并允许企业客户导出对账。计量越细,审计要求越高。

按结果:把返工风险转移给供应商

ClausePilot 提供了另一种粒度。它面向保险经纪与律所,收每月 2,400 美元平台费,再按案件收 180 美元。平均每客户每月 38 个案件,于是:

每客户月收入 = 2,400 + 38 × 180 = 2,400 + 6,840 = 9,240 美元
含平台费的单案件收入 = 9,240 ÷ 38 = 243.16 美元
单案件毛利 = 243.16 - 65 = 178.16 美元
单案件毛利率 = 178.16 ÷ 243.16 = 73.3%

按结果计费把「返工」的风险从客户转移给供应商。一个案件无论调用 80 次模型还是 120 次,客户都只付 180 美元;供应商则要承担多出来的推理与人工复核。事实表里单案件成本 65 美元,拆开是推理 22 美元(80 次调用、每次 0.19 美元,合计 15.20 美元,加 OCR 与存储 6.80 美元)、人工复核 35 美元(0.5 小时、每小时 70 美元)、平台 8 美元。案件越复杂,这个平均值越容易被击穿。

因此按结果计费的核心不在价格,而在「结果」的定义。什么算一个案件?一次提交算一个,还是审完算一个?客户退回重审算不算新案件?驳回几次以内不额外收费?这些条款不写清楚,省下来的计费争议会变成更贵的交付争议。按结果的产品通常要配验收标准、修改轮次上限和异常案件报价,否则粒度越贴近价值,边界越容易打架。

三种粒度放在同一张表里

把三案例的单位经济性并排,可以看到粒度选择的真正取舍。

粒度计费单位单位收入单位成本单位毛利毛利率
按请求一次对话0.0868 美元0.0150 美元0.0718 美元82.7%
按 token一千 token0.0386 美元0.00667 美元0.0319 美元82.7%
按结果一个案件243.16 美元65.00 美元178.16 美元73.3%

前两行的毛利率相同,因为它们是同一笔收入换了分母;第三行更低,因为结果计费把人工复核放进了变动成本。这张表说明:粒度不是毛利率的杠杆,而是风险、可预测性与销售动作的杠杆。

按请求最适合自助式、低客单、客户需要掌控感的场景;按 token 最适合开发者、用量差异大、成本与用量高度相关的场景;按结果最适合垂直行业、客户只关心交付物、供应商能控制返工的场景。选错粒度不会立刻反映在毛利上,而会慢慢反映在账单争议、套利流失和支持工时上。

选择粒度的四条标准

第一条,与成本同构。计量单位越接近主要成本驱动因素,价格越不容易被少数客户击穿。LumenDesk 的主要成本是 token,却按请求收费,于是必须用长度上限补洞;ClausePilot 的主要成本是人工复核,按案件收费就比按调用收费更贴近成本。

第二条,客户能预估。客户在下单前能不能算出这个月大概付多少?按请求可以,按 token 很难,按结果取决于案件量是否稳定。可预估性直接影响转化率与续费,尤其是中小客户。

第三条,可防套利。每一种粒度都有套利方向:按请求套长度,按 token 套计数信任,按结果套验收标准。选择粒度时,要同时选择对应的防线,而不是等套利发生后再补条款。

第四条,可审计。计量单位必须能被记录、导出和复算。按请求需要请求日志,按 token 需要 tokenizer 与用量明细,按结果需要案件状态机与验收记录。审计能力不足的粒度,最终都会退化成「按供应商说了算」。

把四条标准做成 1 到 5 分的打分表,团队在选粒度时就不再靠感觉。LumenDesk 在「可预估」和「可审计」上得分高,在「与成本同构」上得分低;ClausePilot 在「与成本同构」上得分高,在「可审计」上依赖案件定义。没有全能粒度,只有与业务匹配的粒度。

混合粒度是常态

真实产品很少只用一种粒度。LumenDesk 是「席位底座 + 请求超额」,Verba API 是「纯分钟用量」,ClausePilot 是「平台费 + 案件」。底座与计量单位的分工可以用一句话概括:底座覆盖可预期的成本与承诺,计量单位承接不可预期的波动。

但底座覆盖到什么程度,决定了超额的性质。LumenDesk 每席位 49 美元的底座,对应包含额度 500 次的变动成本是 500 × 0.015 = 7.50 美元。也就是说,即使客户一次超额都没有,49 美元也已经覆盖了 6.5 倍的包含额度成本。按实际 620 次计算,成本是 9.30 美元,底座仍然是成本的 5.3 倍。

这个数字很重要:LumenDesk 的超额收入不是在回收成本,而是在做价格分层。超额费用 4.80 美元对应 120 次调用的成本 1.80 美元,超额部分的毛利率是 (4.80 - 1.80) ÷ 4.80 = 62.5%。它低于整体毛利率,但仍然为正。理解这一点,才不会在讨论额度时误以为「超额必须覆盖成本」——成本早就被底座覆盖了,超额的任务是让用得多的人多付,同时不吓跑用得少的人。

最小计费单位与取整方向

粒度除了回答「数什么」,还要回答「最小单位是多少、余数怎么处理」。按 token 计费的产品通常以一千 token 为单位,一次对话 2,250 个 token 折合 2.25 个单位。如果系统按请求逐次向上取整,每次记 3 个单位,620 次就是 1,860 个单位;如果把全月用量先汇总再取整,则是 1,395 个单位。两者相差 465 个单位,比例是 1,860 ÷ 1,395 = 133.3%。

这不是小数问题,而是定价问题。逐次向上取整会把短请求的相对价格抬高,汇总取整则让短请求搭了长请求的便车。哪种更公平取决于客户结构:请求长度差异大的产品适合汇总取整,请求长度稳定的产品适合逐次取整。无论选哪种,合同与界面都必须写清楚取整方向,否则客户会用「我自己加了一遍,和你算的不一样」来质疑整张账单。

用代码把三种口径算成同一套数

下面的实验把三种粒度收进一个函数:先把原始用量换算成计费单位,再减去包含额度,最后按 micro-USD 计价并折算成美分。token 粒度以一千个 token 为一个单位,避免在账上出现小数 token。

// file: src/pricing/07-1-quota-granularity.ts
// tier: L1
// verify: node --test test/pricing/07-1-quota-granularity.test.ts

// 同一笔额度收入,按请求、按 token、按结果计量会得到不同的单位价格与套利空间。

export type Granularity = "request" | "token" | "result";

export type Usage = { requests: number; tokensPerRequest: number; results: number };

export type QuotaPlan = { includedUnits: number; overagePriceMicros: number };

export type QuotaSplit = {
  units: number;
  excess: number;
  overageMicros: number;
  overageCents: number;
};

/** 把原始用量换算成计费单位;token 粒度以 1,000 token 为一个单位。 */
export function billableUnits(usage: Usage, granularity: Granularity): number {
  switch (granularity) {
    case "request":
      return usage.requests;
    case "token":
      return Math.ceil((usage.requests * usage.tokensPerRequest) / 1_000);
    case "result":
      return usage.results;
  }
}

/** 超出包含额度的部分按计划单价计费,金额先保留 micro-USD 再折算美分。 */
export function splitQuota(
  usage: Usage,
  plan: QuotaPlan,
  granularity: Granularity,
): QuotaSplit {
  const units = billableUnits(usage, granularity);
  const excess = Math.max(0, units - plan.includedUnits);
  const overageMicros = excess * plan.overagePriceMicros;
  return {
    units,
    excess,
    overageMicros,
    overageCents: Math.round(overageMicros / 10_000),
  };
}

/** 单位收入,单位 micro-USD:把整笔收入摊到计费单位上。 */
export function revenuePerUnitMicros(revenueCents: number, units: number): number {
  if (units === 0) return 0;
  return Math.round((revenueCents * 10_000) / units);
}

export const LUMENDESK_SEAT: Usage = {
  requests: 620,
  tokensPerRequest: 2_250,
  results: 620,
};

export const REQUEST_PLAN: QuotaPlan = {
  includedUnits: 500,
  overagePriceMicros: 40_000,
};

export const TOKEN_PLAN: QuotaPlan = {
  includedUnits: 1_125,
  overagePriceMicros: 17_778,
};

export const CLAUSEPILOT_CUSTOMER: Usage = {
  requests: 38,
  tokensPerRequest: 0,
  results: 38,
};

export const CASE_PLAN: QuotaPlan = {
  includedUnits: 0,
  overagePriceMicros: 180_000_000,
};

代码里最值得注意的是 billableUnits 的 switch:三种粒度共用同一套额度、超额与单位收入函数,差异只在「如何数数」。这也是产品实现时应有的结构——计量层与计价层分离,未来增加第四种粒度时,不需要重写账单逻辑。

splitQuota 返回的 overageMicros 与 overageCents 并存,是为了让上游既能做精确对账,又能给客户展示美分账单。金额在 micro-USD 上做整数运算,最后一步才四舍五入,可以避免多次折算带来的累计误差。

把粒度写进合同与产品界面

粒度不只是一个工程参数,它必须同时出现在合同和界面上。合同要写清楚:计费单位是什么、如何取整、失败请求是否计费、重试是否重复计费、token 如何计数、客户是否有审计权。界面要写清楚:本月已用多少、剩余多少、按当前速度预计月底多少、超额单价是多少。

两边不一致,就会产生最消耗信任的一类争议:客户以为自己买的是「500 次对话」,账单却按 token 结算;或者客户以为失败请求不计费,系统却在超时重试时记了三次。粒度越细,界面越要把「怎么算的」展示出来,否则精细化计量只会变成精细化投诉。

一个实用的检查清单是:客户能否在账单出来之前,用产品界面上的数字复算出账单?如果能,粒度就是可运营的;如果不能,再精确的计量也只是一个黑箱。

小结

  • 额度设计的第一步不是定数量,而是定「什么算一次」;粒度决定了价格如何随用量变化。
  • LumenDesk 每席位 500 次额度、620 次实际用量,超额 120 次、4.80 美元,每席位月收入 53.80 美元。
  • 按请求计费的优点是客户可数、可解释,缺点是请求内部的 token 长度没有被定价。
  • 把同一笔账换成 token 口径,包含 1,125,000 token、实际 1,395,000 token、超额 270,000 token,单位收入 0.0386 美元/千 token。
  • 粒度本身不改变毛利率;按请求与按 token 都能算出 82.7%,变化的是波动分配与套利面。
  • 按结果计费把返工风险转移给供应商,代价是「结果」必须被合同定义清楚。
  • 混合粒度是常态:底座覆盖可预期成本,计量单位承接波动;LumenDesk 的底座已是包含额度成本的 6.5 倍。
  • 选粒度的四条标准是与成本同构、客户能预估、可防套利、可审计;四条同时满分的粒度不存在。

阅读导航:上一节:6.3 从试用到付费的转化漏斗 · 下一节:7.2 超额处理:硬停、软限与自动升级 。

常见错误与边界

  • 把「额度」当成营销数字,却没有定义计费单位。500 次对话与 500 次模型调用是两种完全不同的承诺。
  • 用平均请求长度设计按请求计费。平均值会把长请求的套利空间藏起来,直到少数客户把毛利拉穿。
  • 认为按 token 计费就一定更公平。客户无法预估、计数不可验证时,公平感反而下降。
  • 按结果计费却不定义验收标准。返工、驳回与重复提交的边界不清,交付争议会超过计费收益。
  • 只改粒度不改合同与界面。账单口径与客户理解不一致,是最难挽回的信任损失。
  • 把超额收入当成成本回收。LumenDesk 的底座早已覆盖变动成本,超额本质上是价格分层工具。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图