这里是全站文章的归档入口,下面是按时间倒序排列的全部文章。若想按主题浏览,请从首页的专题分类进入。
15.2 响应式流处理的演进趋势
响应式流处理系统的未来演进方向:流批一体(Stream-Batch Unification)与 Flink Table API 的统一、实时数仓与流处理 SQL 化趋势、Serverless 流处理与弹性伸缩、以及 AI 推理与流处理的融合(实时特征工程)。
posts
这里是全站文章的归档入口,下面是按时间倒序排列的全部文章。若想按主题浏览,请从首页的专题分类进入。
响应式流处理系统的未来演进方向:流批一体(Stream-Batch Unification)与 Flink Table API 的统一、实时数仓与流处理 SQL 化趋势、Serverless 流处理与弹性伸缩、以及 AI 推理与流处理的融合(实时特征工程)。
Kafka Streams 与 Flink 的适用场景深度对比:组织架构与运维成本差异、有状态轻量转换与复杂窗口/CEP 的分工策略、混合架构的典型拓扑(Kafka Streams 做清洗 + Flink 做计算),以及 Java 生态下的选型决策树。
Kafka Streams DSL 常用操作速查卡:StreamsBuilder 拓扑创建、KStream/KTable/KGroupedStream 的常用转换操作、Join 语义、状态存储配置、EOS 配置参数及 TopologyTestDriver 测试模板。
Flink DataStream API 常用操作速查卡:Environment 创建、Source 与 Sink、Transformation、Window、State、Watermark 策略、Checkpoint 配置及 Metrics 注册的代码模板与参数速查。
eventd v2 到 v3 的平滑演进:事件格式的向后兼容与字段改名处理、Kafka Topic 双线并行与灰度比例控制、指标比对验证、历史数据保留与回滚步骤,并给出按周推进的迁移时间线、常见兼容性陷阱,以及 v2 只读期的历史查询兜底与下线顺序。
eventd v3 常见故障排查手册:反压原因定位(算子级别→网络→JVM)、状态过大导致的 OOM 与 Checkpoint 超时、Watermark 长期滞后的排查步骤、Kafka Consumer Group 再均衡与 offset 丢失场景的诊断方法。
eventd v3 的性能基线建立与调优方法:吞吐、端到端延迟与 Checkpoint 时间的测量口径,并行度与 Slot 扩展的测试设计,反压下的降级策略,以及如何用 Flink 指标定位瓶颈、避免把机器差异误判为代码优化,并给出可复现的压测步骤。
eventd v3 端到端可运行测试:基于 Testcontainers 的 Kafka 与 Redis 集成测试、全链路数据从 v2 Producer → Kafka Streams 清洗 → Flink 聚合 → Redis 的链路验证,以及测试数据的确定性生成、Watermark 推进与断言策略。
Flink DataStream 测试体系:MiniCluster 资源管理与 execute() 阻塞模式、KeyedOneInputStreamOperatorTestHarness 进行 ProcessFunction/Timer 精细测试、CollectSink 收集结果、Watermark 手动推进测试,以及 eventd v3 窗口聚合的确定性测试。
Kafka Streams 测试策略:TopologyTestDriver 创建输入/输出 Topic 并模拟完整拓扑、自定义 Processor 的状态存储测试、eventd v3 清洗管道的确定性测试,以及单元/组件/集成测试的分工。
eventd v3 全链路验收方案:端到端可运行、指标正确性、延迟预算、故障恢复与反压五个用例的可执行检查,配套环境记录表、结果记录模板,以及固定 sleep、只断言 key 存在、延迟初值为 0 等六种「假通过」陷阱的识别方法,并说明每个用例应保留的证据。
eventd v3 的部署与运维:Flink Standalone 与 Docker 两种部署方式、TaskManager 内存与 Slot 配置、dev/staging/prod 环境管理、Savepoint 升级与滚动重启步骤,以及作业、Kafka lag、Redis 连接的日常检查清单。
eventd v3 全链路集成:从 eventd v2 Kafka Producer 到 Kafka Streams 清洗、再到 Flink DataStream 聚合、Redis Sink 指标缓存与 SSE 面板的完整端到端可运行流程与配置调优。
Flink 状态过期与清理策略:StateTtlConfig 的三种 UpdateType 和两种 StateVisibility、过期数据的清理时机(增量/全量/RocksDB 压缩)、Idle State Retention 的窗口级清理,以及 eventd v3 各状态存储的 TTL 配置方案。
Flink 多流 Join 技术:Interval Join 在事件时间窗口内的关联、CoProcessFunction 自定义 Join 逻辑与状态管理、BroadcastStream 动态规则关联,以及 eventd v3 订单流与用户资料流关联的实战与乱序处理。
eventd v3 的端到端 Exactly-Once 保证:Kafka Source 的可重放 offset、Flink Checkpoint 的一致快照与 Sink 侧 2PC 的区别、Redis Sink 的确定性 key 幂等写入,以及这套组合成立的前提与失效边界。
eventd v3 实时面板的 WebFlux SSE 推送实现:Redis 订阅与 Lettuce 响应式驱动的接入方式、SSE 事件格式与断线重连、慢消费者下的背压与丢弃策略,以及前端 EventSource 的消费示例、命名事件监听和常见踩坑。
eventd v3 实时告警规则引擎实现:基于 Flink KeyedProcessFunction 的阈值判断、滑动窗口计数与告警抑制(去抖),涵盖告警级别分级、规则热更新、Redis 持久化与 SSE 推送,并讨论规则误报、重复告警和状态膨胀的取舍。
eventd v3 核心实时指标计算:QPS 计数(RecordsOutPerSecond 与自定义 Counter)、延迟分位数计算(ProcessFunction + ValueState 实现近似 P50/P95/P99)、错误率实时统计与滑动窗口告警阈值。
eventd v3 实时指标计算的完整实现:用 Flink DataStream 并行三条窗口聚合(每分钟每用户订单量、近 5 分钟平均延迟、热点商品点击),用 ProcessWindowFunction 补齐窗口与维度信息后写入 Redis;同时说明增量聚合与全量聚合的选择、Redis 键设计为何必须带维度、迟到数据处理,以及本地执行环境下可重跑的断言方式。