《AI Agent 技术原理与架构·运行时、协议与系统架构》13.1 威胁建模与 STRIDE

先盘点资产,再把风险按可能性与影响排座次。STRIDE 提供六类威胁的检查清单:仿冒、篡改、抵赖、信息泄露、拒绝服务、权限提升。实验给四条资产挂上威胁,计算风险分并降序排列,暴露未覆盖的类别,说明威胁建模是安全的第一动作——没建模就谈不上防护。

以下可能性与影响评分均为教学假设,不构成对任何真实系统、供应商或生产环境的承诺。风险分 9 是演示用的模型,真实系统按资产价值与攻击面实测,但"先盘点资产、再排风险座次"这一条不变。

12.3 讲了评估的可信度,这一节进入安全:威胁怎么被看见。威胁建模是安全的第一动作——先盘点资产,再把风险按可能性与影响排座次。没建模就谈不上防护,因为你不知道要防谁、防什么。

先盘点资产

威胁建模的第一步不是列攻击,是盘资产。资产是值得保护的东西——用户消息、工具凭证、计费数据、缓存内容,各有不同的保密、完整、可用要求。

资产保密完整可用
用户消息321
工具凭证331
计费数据133
响应缓存112

三性量化了"什么值得保护"。 用户消息保密要求高(3),计费数据完整与可用要求高(3),工具凭证两项都高。三性不同,同一类威胁对不同资产的严重程度就不同——凭证被篡改和缓存被篡改,不是一个量级。

STRIDE:六类威胁的检查清单

STRIDE 给威胁建模一张清单,六类覆盖常见的攻击形态:

类别含义例子
仿冒伪装成别人冒用工具身份
篡改修改数据改计费记录
抵赖否认做过否认已执行动作
信息泄露不该看的被看泄露用户消息
拒绝服务让服务不可用打爆缓存
权限提升越权行事从只读提到读写

清单的价值是不漏。 六类对着资产逐一过,哪个类别没覆盖,哪个方向就可能漏——模块里 coverage_missing 暴露的正是这个缺口。

最小实验:资产、威胁与风险排序

实验提供 Asset/Threat,risk_score 计算可能性×影响,prioritize 降序排列,coverage_missing 暴露未覆盖的 STRIDE 类别。

# file: agp_lab/threat_model.py | write
# tier: 3
# verify: python3 -m unittest tests.test_threat_model
"""威胁建模:先盘点资产,再把风险按可能性与影响排座次。

STRIDE 提供六类威胁的检查清单:仿冒、篡改、抵赖、信息泄露、
拒绝服务、权限提升。本模块把资产的三性(保密/完整/可用)记在
资产上,对每条威胁给出风险分并降序排列,同时暴露未覆盖的类别。
"""
from __future__ import annotations

from dataclasses import dataclass
from typing import Any

THREAT_KINDS = [
    "spoofing",
    "tampering",
    "repudiation",
    "information_disclosure",
    "denial_of_service",
    "elevation_of_privilege",
]


@dataclass(frozen=True)
class Asset:
    name: str
    confidentiality: int
    integrity: int
    availability: int


@dataclass(frozen=True)
class Threat:
    asset: str
    kind: str
    likelihood: int
    impact: int


def risk_score(t: Threat) -> int:
    return t.likelihood * t.impact


def prioritize(threats: list[Threat]) -> list[dict[str, Any]]:
    return [
        {
            "asset": t.asset,
            "kind": t.kind,
            "risk": risk_score(t),
        }
        for t in sorted(threats, key=risk_score, reverse=True)
    ]


def coverage_missing(threats: list[Threat]) -> list[str]:
    covered = {t.kind for t in threats}
    return sorted(set(THREAT_KINDS) - covered)


def demo() -> dict[str, Any]:
    threats = [
        Threat("user_messages", "information_disclosure", 3, 3),
        Threat("tool_credentials", "spoofing", 2, 3),
        Threat("response_cache", "denial_of_service", 2, 2),
        Threat("billing", "tampering", 1, 3),
    ]
    return {
        "risk_scores": {f"{t.asset}/{t.kind}": risk_score(t) for t in threats},
        "prioritized": prioritize(threats),
        "coverage_missing": coverage_missing(threats),
    }


if __name__ == "__main__":
    for key, value in demo().items():
        print(f"{key}: {value}")

运行:

cd private/labs/agp-lab
python3 -m agp_lab.threat_model

输出:

risk_scores: {'user_messages/information_disclosure': 9, 'tool_credentials/spoofing': 6, 'response_cache/denial_of_service': 4, 'billing/tampering': 3}
prioritized: [{'asset': 'user_messages', 'kind': 'information_disclosure', 'risk': 9}, {'asset': 'tool_credentials', 'kind': 'spoofing', 'risk': 6}, {'asset': 'response_cache', 'kind': 'denial_of_service', 'risk': 4}, {'asset': 'billing', 'kind': 'tampering', 'risk': 3}]
coverage_missing: ['elevation_of_privilege', 'repudiation']

三条输出对应三件事:

  1. risk_scores:四条威胁各得一分——用户消息泄露 9、凭证仿冒 6、缓存拒绝服务 4、计费篡改 3。风险分 = 可能性 × 影响,分数是排序的依据。
  2. prioritized:按风险分降序——泄露 9 最优先、篡改 3 最后。排序决定防护的先后,先防分数高的。
  3. coverage_missing:未覆盖 elevation_of_privilege 与 repudiation 两类。清单暴露盲区——这两类没建模,就可能成为漏网的方向。

一个值得点破的细节:risk_scores 里 user_messages/information_disclosure 得 9(可能性 3 × 影响 3),排第一——这是"又常见又致命"的威胁,最值得先防。而 coverage_missing 列的 repudiation——抵赖类威胁最容易被忽略:智能体执行了敏感动作却不留痕,事后无法证明谁做的。这正是 8.3 的审计、13.3 的决策记录要补的洞:建模发现抵赖盲区,就要用审计日志和 ADR 把它堵上。

风险分的口径

风险分 = 可能性 × 影响,但两个因子都要定口径。可能性不是玄学——有攻击面分析(谁接触这个资产、有哪些入口)就有依据;影响不是估一个数——按"泄露了会怎样"的后果分级。口径写进建模过程,分数才能被审计。

因子口径依据
可能性 1-3攻击面大小、历史事件
影响 1-3泄露/篡改/宕机的业务后果

排序与防护资源的分配

威胁排序直接决定防护投入。分数高的威胁先防,分数低的后防——这是有限资源下的必然选择。但排序不是一劳永逸:新功能上线、新资产引入,威胁列表要重排。威胁建模是持续的过程,不是一次交付——每次架构变化都要回来过一遍清单。

威胁建模与 11 章、13 章的接口

威胁建模是安全的地基,它喂给纵深防御(13.2)与治理(13.3)。排序出的高风险威胁,是 13.2 纵深防御要堵的点——每层防线挡的就是模型里分数最高的威胁;抵赖类盲区,用 13.3 的 ADR 与审计补——决策有记录、动作有留痕。建模与容错也相通:11 章的失败分类、熔断,本质是"可用性威胁"的防御——拒绝服务类威胁(打爆缓存)要用熔断与限流防。威胁建模把"要防什么"定下来,后面的每章都在回答"怎么防"。

资产分级与防护

资产按三性分级,防护按级别投入。高保密资产(用户消息)要强加密、严格审计(8.3);高完整资产(计费)要校验与版本(8.2);高可用资产(缓存)要限流与熔断(13.2、11.2)——资产分级直接映射防护手段。

资产级别防护手段
高保密加密、审计
高完整校验、版本
高可用限流、熔断

分级让防护不平均用力。 低价值的缓存不需要用户消息同等的加密——把防护资源投向高级别资产,是威胁排序在资源分配上的延伸。

攻击面分析

可能性要攻击面支撑。攻击面 = 谁接触这个资产 × 有多少入口。用户消息被模型、工具、日志多路接触,攻击面大;计费数据只走内部服务,攻击面小。攻击面分析给"可能性"评分依据,而不是拍脑袋估。

资产接触方攻击面
用户消息模型/工具/日志大
计费内部服务小

攻击面分析也暴露防护缺口。 一条资产接触的路径多,路径上的防护(13.2 的层)就要多——每个接触点都是一道可能的入口。攻击面越大,纵深防御的层越要多。

威胁的演变

威胁会随系统演进而变。新增一个工具调用接口,工具相关威胁的面就变了(仿冒、越权);数据源扩容,泄露的面也变大。威胁模型不是静态清单,要随架构变更重评——这正是 13.3 ADR 的用武之地:架构变更记 ADR,威胁模型跟着重评。

变更威胁影响
新增接口攻击面变大
数据源扩容泄露面变大
新角色权限提升风险

威胁演变与治理接缝。 每次架构评审(13.3)过一遍威胁模型,排序变化就有记录。威胁模型停更,就等于默认系统不变——而系统一直在变。

威胁与资产的映射

每条威胁要落到资产。“信息泄露"是泄露哪个资产,“拒绝服务"是让哪个资产不可用——威胁不落资产,风险分就没有对象。映射关系是威胁模型的核心结构:资产 × 威胁 → 风险。模块里的每条威胁都指向一个资产(user_messages、tool_credentials、response_cache、billing),这正是映射的体现。

资产主要威胁
用户消息信息泄露
工具凭证仿冒
缓存拒绝服务
计费篡改

映射也暴露防护的归口。 一个资产有多个威胁,防护(13.2)就要多道层;一个威胁涉及多个资产,防护就要跨资产统一。映射把"防什么"落实到"防哪个资产的什么”。

威胁的评分更新

评分要随实测量新。历史上某类攻击增多,可能性上调;加固后攻击减少,可能性下调——风险排序是活的。评分更新要记录依据(攻击日志、加固记录),否则排序变化无法审计。

信号评分动作
攻击增多可能性上调
加固生效可能性下调
新攻击形态新增威胁

评分更新与 12.1 追踪衔接——攻击事件入追踪链,评分更新的依据可查。威胁模型的排序变化,要有数据支撑而不是拍脑袋。

架构判据

威胁建模是否合格,用五条判据检查:

判据合格的样子不合格的样子
资产已盘点知道保护什么资产没盘就谈防
STRIDE 全覆盖六类都过一遍有类别漏掉
风险分可算可能性×影响可量化风险说不清
排序驱动防护高分先防防护与排序脱节
建模持续更新架构变化回来重排建模一次交付

判据第一条是"资产先盘点”,判据第四条才是关键:排序必须驱动防护投入——模型排了 9 分的泄露,防护却不投入,建模就是白做。判据第五条是安全与演进的关系——威胁建模是持续过程,不是交付物。

小结

  • 威胁建模第一步是盘点资产,三性量化"什么值得保护"。
  • STRIDE 六类清单保证不漏,抵赖与权限提升最容易漏。
  • 风险分 = 可能性 × 影响,排序决定防护先后。
  • 排序驱动防护资源分配,高分先防。
  • 建模是持续过程,架构变化就要回来重排。

阅读导航:上一节:12.3 统计有效性:样本量与显著性 · 下一节:13.2 纵深防御:分层防护 。

常见错误与边界

  1. 资产没盘就谈防。 不知道保护什么,防护就是蒙的。
  2. STRIDE 漏类。 抵赖与权限提升最容易漏,漏掉就是盲区。
  3. 风险说不清。 可能性×影响没有口径,分数无法审计。
  4. 排序与防护脱节。 模型排了高分,防护不投入,白做。
  5. 建模一次交付。 新资产上线不回排,威胁列表过期。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图