《AI Agent 游戏产品开发》4.3 Agent 与反作弊的边界

Agent 功能让「操作像外挂」变成正常现象,反作弊必须换判据:看输入侧,不看输出侧。本节区分真人高手、Agent 辅助与外挂三类玩家,给出五类证据的资格与组合判据,说明七天的证据窗口与误报成本,并给出产品侧必须做的三件事与可运行的裁决函数。

以下人物、公司与数字均为教学假设,不构成对任何真实产品的评价。本节引用的证据窗口与日志保留期设定来自附录 B 双案例唯一事实表 。

AI 对手让「对面太强」变成常态,Agent 功能又让「我方操作太准」变成常态。两条线一夹,传统反作弊的判据就失效了:一个玩家每一手都接近最优,可能因为他是高手,可能因为他开了 Agent 辅助,也可能因为他用了外挂。三种情况的处理方式完全不同,而它们的输出看起来一模一样。

所以反作弊必须换一个方向:不看输出质量,看输入来源。这一节处理的是「玩家有没有作弊」,与上一节「AI 有没有越界」是两件事,但共用同一份动作表与审计日志。

三类容易混淆的玩家

类型行为特征证据来源处理
真人高手稳定、可解释、有失误输入序列、设备、历史不处理
Agent 辅助接近最优、风格一致、依赖产品功能产品日志、Agent 调用记录按产品规则限制
外挂超出人类操作极限、绕过客户端设备、输入注入、服务端状态反作弊处置

三类里最难分辨的是第一类与第二类。高手与 Agent 辅助的决策质量可能同样高,区别在于决策是怎么产生的:前者来自人,后者来自产品功能。这个区别在输出上看不出来,只能从产品的 Agent 调用日志里看到。

第三类——外挂——与 Agent 辅助有一个本质区别:外挂绕过了产品设定的规则,Agent 辅助只是在规则内做得更好。前者的证据在输入侧,后者根本不需要「作弊证据」,它需要的是产品规则:PvP 里允不允许辅助、允不允许代打。

外挂本身也分三个层面,证据强度依次上升:

层面典型手段证据主要检测方
设备层root、越狱、模拟器、注入框架设备完整性客户端与服务端
输入层宏、脚本、模拟点击操作间隔与轨迹客户端
状态层内存修改、封包篡改服务端不可能状态服务端

三层里状态层最可靠,因为客户端可以被绕过,服务端的「不可能状态」绕不过去。设备层与输入层提供辅助证据,单靠它们容易误判:无障碍功能、外接手柄、系统级连点都可能被误读成外挂。

证据来源与资格

不是所有日志都能当证据。五类来源的资格不同:

来源说明证据资格权重上限
设备越狱、模拟器、注入框架可用强
输入序列点击轨迹、操作间隔、宏特征可用强
服务端状态不可能的操作序列、数值异常可用强
Agent 输出产品自身的辅助记录不可用—
玩家举报视频、截图、描述可用中

「Agent 输出不可用」是本节最重要的一条。玩家使用产品提供的 Agent 辅助,产生了一份「接近最优」的决策记录;这份记录不能用来证明他作弊,因为它证明的恰恰是他用了产品功能。哪怕 PvP 规则禁止辅助,处理方式也是关闭功能或标记对局,而不是封号。

把 Agent 输出当证据,会带来两个后果:误封使用正规功能的玩家,以及让真正的外挂因为「大家都有 AI 记录」而更难被识别。

判据:证据组合,而不是单个信号

单个信号不足以定罪。判据要看证据的组合:

组合判定处理
两个独立强证据处置封禁或隔离,进入申诉流程
一个强证据 + 一个中证据人审人工复核后决定
一个强证据观察加入观察名单,继续收集
两个中证据观察同上
只有弱信号无不处理

「独立」是关键。设备异常与输入注入如果来自同一次检测,只能算一个证据;服务端状态异常与输入序列异常如果指向同一次操作,也要合并。独立性要求证据来自不同层面,而不是同一份日志的不同字段。

时间维度也属于组合的一部分。两个强证据必须在同一个时间窗内,否则可能是一次历史误报加一次偶发异常。方舟的证据窗口是 7 天,短于审计日志的 30 天保留期——窗口之外的数据仍然保留,但不参与判定。

检测要宽,处置要严

检测与处置是两个阶段,目标相反:

阶段目标误报容忍输出
检测不漏高误报可接受观察名单、告警
处置不误封低误报,需人审或双强证据封禁、隔离

把两个阶段合成一个,最常见的后果是规则一紧、误封上升,一松、外挂扩散。分开之后,检测可以宽进——设备异常、操作异常、举报都先收进来;处置必须严出——只有满足组合判据的才进入封禁。

观察名单怎么用

观察名单是检测与处置之间的缓冲区,它的规则要写死:

  • 进入条件。 任一强信号,或两个中信号,或同一玩家多次被举报。
  • 保留期。 与证据窗口一致,7 天;到期自动移除,不自动升级。
  • 出口。 升级为人审、证据不足清除、到期移除,三种结局都要留记录。

观察名单不是黑名单。它不能影响匹配、发奖与排行榜,唯一用途是收集更多证据。一旦它开始影响玩家体验,就变成了未经审判的处罚。

误报成本与漏报成本

反作弊的两种错误代价不对称,但都不为零:

  • 误封。 玩家被错误封禁,会流失、会公开投诉,且申诉成本高;一次大规模误封的信任损失,可能需要几个月才能修复。
  • 漏放。 外挂继续破坏对局,正常玩家流失,且外挂会扩散。

不对称不等于「宁可错杀」。正确做法是让两类错误的成本都可计算:处置必须经过人审或双强证据,观察名单可以宽进严出;申诉必须能在窗口内调出证据,而不是让玩家自证清白。

产品侧要做的三件事

反作弊不只是风控团队的事,产品侧要先把边界划出来:

  1. Agent 使用可披露。 玩家在 PvP 里使用辅助时,对局应当有标记;不标记,就无法区分「用了辅助」与「作弊」。
  2. PvP 的辅助开关。 要么禁止,要么分段位限制;规则要写在玩家能看见的地方,不能只在服务条款里。
  3. 日志保留与关联。 Agent 调用日志、对局日志与设备日志要能用同一个玩家 id 关联;关联不上,证据组合就做不出来。

三件事里第一件最容易被忽略。产品做了 Agent 辅助,却没有在对局里留下「这一方使用了辅助」的标记,事后所有判定都只能靠猜。

把判据写成可运行的裁决

下面的模块把证据资格、组合判定与处置通知写成函数。它不采集证据,只回答「给定这组证据,该不该处置」。

// file: src/fair/anti-cheat.ts
// tier: L1
// verify: node --test test/fair/anti-cheat.test.ts

// 反作弊看输入侧,不看输出侧。
// Agent 输出是产品行为,玩家操作质量再像外挂,也不能用「太强」定罪。

export type EvidenceSource =
  | "device"
  | "input-sequence"
  | "server-state"
  | "agent-output"
  | "player-report";

export type Weight = 1 | 2 | 3;

export type Evidence = {
  readonly source: EvidenceSource;
  readonly weight: Weight;
  readonly note: string;
};

export type Verdict = "clear" | "watch" | "human-review" | "sanction";

// 产品侧输出不具证据资格:它可能只是玩家开了 Agent 辅助。
export function admissible(evidence: Evidence): boolean {
  return evidence.source !== "agent-output";
}

export function verdictOf(evidence: readonly Evidence[]): Verdict {
  const usable = evidence.filter(admissible);
  if (usable.length === 0) return "clear";
  const strong = usable.filter((e) => e.weight === 3);
  const medium = usable.filter((e) => e.weight === 2);
  if (strong.length >= 2) return "sanction";
  if (strong.length === 1 && medium.length >= 1) return "human-review";
  if (strong.length === 1 || medium.length >= 2) return "watch";
  return "clear";
}

// 「打得太准」是弱信号,单靠它只能观察,不能处置。
export function timingOnly(evidence: readonly Evidence[]): boolean {
  return evidence.every((e) => e.source === "input-sequence" || e.source === "agent-output");
}

// 告警必须能被玩家理解:处置要给出具体证据类型与时间窗。
export type SanctionNotice = {
  readonly verdict: Verdict;
  readonly sources: readonly EvidenceSource[];
  readonly windowMs: number;
};

export function noticeFor(verdict: Verdict, evidence: readonly Evidence[], windowMs: number): SanctionNotice {
  return {
    verdict,
    sources: [...new Set(evidence.filter(admissible).map((e) => e.source))],
    windowMs,
  };
}

admissible 只过滤来源,不看权重。一份权重为「强」的 Agent 输出仍然不可用;权重描述的是信号强度,不是证据资格,两者不能混为一谈。

verdictOf 先过滤再计数。如果没有这一步,一个设备异常加三条 Agent 输出会被算成「两个强证据」,直接走向处置。

timingOnly 是一个显式的提醒函数。它不改变判定,只是告诉审核者「这组证据全部来自操作时序」,避免把「太准」单独当成结论。

(本段代码与 src/fair/anti-cheat.ts 逐字节一致,测试对应 test/fair/anti-cheat.test.ts。)

申诉要给出证据类型

玩家申诉时,产品不能只说「系统判定你违规」。至少要说清三件事:判定依据的证据类型、证据所在的时间窗、以及处理结果的级别。

告知项示例不能给的
证据类型输入序列异常、设备环境异常具体检测规则与阈值
时间窗最近 7 天内的 3 场对局其他玩家的信息
处理级别隔离观察、临时封禁、永久封禁内部风控评分

第一列是玩家能理解的,第二列是风控资产,不能公开。区分两者的标准是「公开之后,外挂会不会更容易绕过」:会,就属于风控资产;不会,就应当告知。

申诉窗口与证据窗口要一致。证据只保留 7 天,申诉却要求 30 天内处理,会让后 23 天的申诉无法自证;两个窗口必须对齐,或者明确告知玩家「超期申诉只能复核流程,不能复核证据」。

一次认定要留下证据链

封禁不是一条结论,而是一条证据链。每次处置至少要留下四项:

  1. 证据来源与时间。 哪一类证据、发生在哪个时间窗。
  2. 独立性说明。 两个强证据为什么来自不同层面,而不是同一次检测。
  3. 判定规则版本。 用的是哪一版阈值与规则,换版后旧判定要能解释。
  4. 复核人。 人审由谁做、什么时候做、结论是什么。

四项缺一项,申诉时就只能复述结论。证据链的价值不是让风控自证,而是让「为什么是他」这个问题有一个不依赖记忆的答案。

与法务、客服的接口

反作弊的判定会流到三个外部接口,三方的口径必须一致:

  • 法务。 封禁条款、告知义务、数据保留与删除的边界。
  • 客服。 申诉入口、话术、处理时效;客服不能承诺「一定解封」,也不能说「系统判定」了事。
  • 风控。 规则版本、阈值、证据类型;阈值不对外,类型可以对外。

三方共用一套术语,否则玩家会在客服与风控之间被踢皮球。最常见的断点是客服不知道证据窗口是 7 天,向玩家承诺 30 天内给答复,而证据在第 8 天已经被清掉。

与上一节的分工

上一节管 AI 守不守规则,本节管玩家有没有作弊。两者的判据方向相反:AI 审计找「多出来的能力」,反作弊找「多出来的优势」。

两者共享动作表与审计日志,但结论不能互相引用。AI 越界不能证明玩家作弊,玩家作弊也不能解释 AI 越界;把两类问题混在一个告警通道里,值班的人会先处理更吓人的那条,而真正的问题可能在被忽略的那条。

小结

  • Agent 功能让「操作太准」变成常态,反作弊要看输入侧,不看输出侧。
  • 真人高手、Agent 辅助与外挂三类玩家在输出上可能一样,区别在决策来源。
  • 五类证据里,Agent 输出不具资格;权重强不等于可以当证据。
  • 判定看组合:两个独立强证据才处置,一个强加一个中进人审,单个强只能观察。
  • 证据窗口 7 天,审计日志保留 30 天;窗口外数据不参与判定。
  • 误封与漏放的代价都不为零,处置必须可申诉、可解释。
  • 产品侧要先做三件事:辅助可披露、PvP 有开关、日志可关联。
  • 申诉要告知证据类型、时间窗与处理级别,但不能公开检测规则。

阅读导航:上一节:4.2 AI 对手不做玩家做不到的事 · 下一节:5.1 跨局记忆:记住什么、忘掉什么 。

常见错误与边界

  1. 用 Agent 输出当作弊证据。 它证明的是玩家用了产品功能,不是作弊;误封的是正规用户。
  2. 把「太准」单独作为结论。 操作时序只是弱信号,单靠它只能观察。
  3. 证据不查独立性。 同一次检测拆成两条日志,会被误算成两个强证据。
  4. 申诉窗口长于证据窗口。 后半个窗口的申诉无法自证,只能复核流程。
  5. 公开检测阈值。 规则一旦公开,外挂会针对性绕过;告知类型,不告知阈值。
  6. AI 越界与玩家作弊混在一个告警里。 两类判据方向相反,混在一起会拖慢真正该处理的那条。

公平性讲的是「同一套规则」。规则要成立,前提是结果可复现、过程可审计——这三件事合起来,才构成玩家愿意相信的对局。

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析》15.3 落地:从 Neo4j 到自研图引擎
  2. 《大规模分布式计算深入解析·图计算与图数据库内核》 · 目录与学习路径(45 篇)
  3. 《大规模分布式计算深入解析》15.2 十一卷主线:从切分到图