这里是全站文章的归档入口,下面是按时间倒序排列的全部文章。若想按主题浏览,请从首页的专题分类进入。
《互联网产品的 AI 架构·推理性能与成本工程》2.2 并发上限与背压
从一次「把并发调大就好了」的线上误判出发,说明并发上限如何用 Little 定律与目标利用率推导、信号量如何限制在途请求、背压如何向上游传播,以及降级与拒绝的本质区别。文中给出可运行的 TypeScript 信号量与压力决策模块,并在 240 条固定样本上对比无界队列、有界拒绝与降级三种策略的真实运行结果。
posts
这里是全站文章的归档入口,下面是按时间倒序排列的全部文章。若想按主题浏览,请从首页的专题分类进入。
从一次「把并发调大就好了」的线上误判出发,说明并发上限如何用 Little 定律与目标利用率推导、信号量如何限制在途请求、背压如何向上游传播,以及降级与拒绝的本质区别。文中给出可运行的 TypeScript 信号量与压力决策模块,并在 240 条固定样本上对比无界队列、有界拒绝与降级三种策略的真实运行结果。
涨价 15.6% 不等于收入涨 15.6%。本节用 LedgerLite 把 $77 提到 $89 的假设,拆出收入盈亏平衡流失率 13.5%、毛利盈亏平衡流失率 15.6%,再按 0 到 40 家客户流失做敏感性表,给出净 MRR、12 个月累计收入和价格弹性的可复算口径。
《裂隙战场》把赛区当成产品决策而不是机房清单:本文复盘北辰在延迟、赛事、观战与成本之间的四次让步,给出赛区候选打分、输入延迟预算、跨区判定、低峰赛区合并与六组表驱动测试的可运行 Go 实现,并说明如果重做一次,哪些跨区匹配会被直接放弃、哪些低峰成本不再摊薄。
预算偏差不是好坏判断,而是方向、幅度和持续性的三件事。本节用 LedgerLite 的 Q1 新签缺口、Tidecast 的开发延期和 Nord Studio 的工时缺口,说明偏差率与绝对额两道阈值如何触发行动,以及滚动预测怎样把一次性波动和结构性变化分开。
同样的收入下滑,对三家公司利润的打击完全不同,差别在于固定成本占多大比例。本节用 LedgerLite、Tidecast 与 Nord Studio 的成本行为划分,计算贡献毛益、保本点、经营杠杆和安全边际,并说明分类口径一旦换掉,结论会怎样变形。
预算不是一张表,而是一次自上而下与自下而上的对账。本节用 LedgerLite 的年度四类计划、Tidecast 的一次性项目预算和 Nord Studio 的双轨预算,说明两套口径各自从哪里起步、在哪里打架、怎样把差额拆到可解释的科目,并给出一个可复算的预算代码模型。
从「回声」早高峰的排队投诉出发,讨论有界队列、优先级老化与准入判据:为什么无限排队会把过载伪装成延迟,为什么纯优先级会让批量任务饿死,以及怎样用预估等待时间在入口直接拒绝。文中给出可运行的 TypeScript 队列与准入模块,并在 90 条确定性样本上比较 FIFO、优先级与老化三种顺序的真实运行结果。
同样的收入规模,结构不同,估值可能差一倍。本节把 LedgerLite 的 3.2× ARR、Tidecast 的 1.8× 收入和 Nord 的 4.5× SDE 统一换算成收入倍数,演示同一收入规模下经常性与一次性结构的估值区间差,并解释为什么倍数不可直接比较、分母不同时应该先换算再谈价格。
收入质量不是一个分数,而是四个可拆的维度。本节用 LedgerLite、Tidecast 与 Nord Studio 分别计算客户与渠道集中度、续费与流失、退款率和经常性收入占比,给出一个可复算的质量评分,并说明每个分项在什么情况下会失真,以及为什么高质量收入仍然可能被单一平台或单一大客户击穿。
《裂隙战场》一次 30% 灰度里错误率正常、退款率却先抬头,自动回滚没有触发。这一节把开关分成总开关、区服、玩法与白名单四级,给出区服、比例、房间类型、渠道四个灰度维度与放量节奏,并讨论错误率、延迟、客诉、经济指标各自的回滚判据和自动回滚的边界。
预收不是收入。本节用 LedgerLite 的年付合同拆解预收现金、递延收入余额与按月确认的完整链路,给出退款发生时的冲减口径,并以 Tidecast 的一次性买断收入作对照,说明确认时点如何同时改变利润表、资产负债表与经营现金流,以及为什么「收到钱」和「赚到钱」必须分开看。
资产负债表是某一时点的快照。本节用 LedgerLite 的期末表逐项校验资产等于负债加权益,拆开应收、递延收入与权益三个关键科目,再用期初表倒推和三表勾稽证明利润表与现金流量表如何落到同一张表上,并对照 Tidecast 与 Nord 的科目差异。
三份来自不同团队的压测报告往往无法比较,因为负载模型不同。本文用确定性 mock 推理器构造稳定、突发、长尾三种负载,产出一份不含时间戳、带指纹、可逐字段比对的基线报告,并给出把它当回归门禁的阈值与取舍;所有数字均为示例样本上的运行结果,不是生产实测。
净利润为正不等于现金增加。本节用 LedgerLite 的年度现金流从 SDE 出发,逐项减去创始人薪酬与所得税,再加上递延收入和应收的变化,最后扣设备投资,说明经营、投资、筹资三类现金如何把利润表接到资产负债表,并对照 Tidecast 与 Nord 的现金节奏差异。
同一笔收入放在利润表的不同位置,毛利率和 SDE 会给出完全不同的结论。本节用 LedgerLite 的年度利润表逐项复算收入、变动成本、运营费用与创始人薪酬,对照 Tidecast 的平台分成净得口径和 Nord 的服务成本结构,说明三表建模的第一张表如何定义边界,并为下一张现金流量表留下可勾稽的净利润。
平台化不是把组件数量堆上去,而是让承诺、组件、交付、观测、安全与治理六个维度都能拿出证据。本节用成熟度矩阵给每个条目打分,按缺口排名生成改进顺序,再用维度均值、单项底线、证据要求与加权总分四道门槛完成验收,并说明为什么平均分与权重都不能代替单项底线。
四个指标都好看,单位经济仍可能失效。本节把毛利率、LTV/CAC、回本期、月流失与 GRR 收成五个可判定信号,用 LedgerLite 的 84.2% 毛利、30.9 倍 LTV/CAC、2.2 个月回本和 83% GRR 做完整评分,并给出结构化判定代码 signals.ts。
同一组 LedgerLite 原始数,用毛利除以流失率算出 4,322 美元 LTV,用年流失率推寿命算出 4,688 美元,用队列净收入法算 60 个月只有 4,091 美元。本节拆开三种算法的公式、假设与失效边界,并给出可运行的 ltv.ts。
看板写着 40 QPS,用户却在超时:吞吐、并发与有效吞吐回答的是三个不同问题。本文给出 goodput 的 SLO 与窗口口径,用确定性批调度器展示并发饱和、批处理对 p95 的影响,以及吞吐几乎不变而 goodput 从 100% 跌到 28% 的取舍。
《群岛纪元》一次联盟字段改名,让回滚后的旧服务端读不到数据。这一节把兼容拆成新读旧、旧读新两个方向,给出扩、双写、收三阶段迁移的状态机与回填约束,用最长对局、最长离线与最长回滚时间取最大值来确定兼容窗口,并附可运行的迁移阶段、窗口计算与回滚判定代码。