高斯过程回归与分类：不确定性建模实战
高斯过程是非参数贝叶斯模型，用核函数刻画函数先验，不仅能给出预测值，还天然给出预测的不确定性。本文从贝叶斯线性回归引出高斯过程、讲清均值函数与 RBF/Matern/周期核、后验预测的均值与方差、用边际似然优化超参数、GP 分类的拉普拉斯近似、O(n³) 复杂度与稀疏/诱导点近似，并给出 scikit-learn 实战及其与贝叶斯优化的联系。
category
Ml
共 45 篇文章。
MLOps 全生命周期实践：从实验到生产闭环
把模型从 Notebook 推到生产并持续可靠运行，需要一整套工程与流程体系。本文讲清 MLOps 的成熟度分级、全生命周期七大阶段（数据、实验、训练、注册、部署、监控、重训）、数据与代码版本化、CI/CD/CT 流水线设计、Airflow/Kubeflow/Metaflow 编排选型、批/在线/流式部署模式与影子、金丝雀、A/B 策略、监控告警与回滚，以及模型卡与合规治理的组织落地。
公平性与偏差缓解：从度量到去偏实战
模型会放大数据里的历史偏见，在信贷、招聘、医疗等场景造成真实伤害。本文讲清偏差的来源分类（历史/表示/测量/聚合/评估）、人口均等与机会均等等公平性定义及不可能定理、差异影响率与均等化几率等度量、Fairlearn 与 AIF360 的检测方法，以及预处理重加权、处理中正则与对抗去偏、后处理阈值调整三类缓解手段，并覆盖代理变量、法规合规与治理闭环。
数据标注与质量治理：从标注规范到一致性度量
模型效果的天花板由数据质量决定，而标注是数据质量的第一道关口。本文讲清标注任务设计与规范编写、分类/检测/序列标注/关系抽取等类型与工具选型、Cohen's Kappa 与 Krippendorff alpha 等一致性度量、黄金标准与多人仲裁等质控机制、主动学习与半监督降低标注成本、Snorkel 式弱监督、标注偏差与 RLHF 偏好标注，以及数据清洗与版本化治理的完整方法。
贝叶斯推断与概率图模型：从共轭先验到 MCMC 实战
贝叶斯推断把参数视为随机变量，由先验与似然共同决定后验分布。本文讲清共轭先验（Beta-Binomial、Normal-Normal、Dirichlet）、MLE 与 MAP 的关系、后验预测分布、MCMC 采样（Metropolis-Hastings、Gibbs、NUTS）与 PyMC 实战，并覆盖贝叶斯网络、条件独立与 d-分离、朴素贝叶斯、变分推断 ELBO 及贝叶斯 A/B 测试落地。
支持向量机与核方法：从最大间隔到 RBF 核实战
支持向量机用最大间隔把分类问题写成凸二次规划，再借核技巧把线性不可分数据映射到高维求解。本文讲清硬间隔与软间隔、铰链损失与 C 参数、对偶问题与支持向量的含义、线性/多项式/RBF 核的差异与 gamma 调参、SVR 回归与多分类策略、核近似与大规模线性 SVM，并给出 scikit-learn 的完整实战流程与调参清单。
联邦学习与隐私保护机器学习：FedAvg、非 IID、DP-SGD 与安全聚合
让数据不出域也能联合建模：联邦学习的基本流程与 FedAvg 聚合算法、客户端漂移与非 IID 数据带来的收敛难题及 FedProx/SCAFFOLD 解法、差分隐私 DP-SGD 的噪声机制与隐私预算、安全聚合如何让服务器只看到梯度和、横向/纵向/联邦迁移三种协作模式、隐私-效用权衡曲线，以及 FedML/Flower 框架与合规落地要点。
语音与音频机器学习：MFCC、CTC/RNN-T、Whisper、TTS 与声码器
把声音变成可学习的数据：音频采样与频谱基础、MFCC 与梅尔谱特征提取、ASR 三大架构 CTC/RNN-T/注意力编码解码的对比、Whisper 端到端语音识别实战、TTS 声学模型与声码器（HiFi-GAN）流程、说话人识别的嵌入与验证、音频数据增强手段，以及 WER/MOS 等评测指标与工程落地要点。
扩散模型与生成式建模：DDPM、U-Net、潜在扩散与 LoRA 微调实战
从噪声中生成图像：DDPM 前向加噪与反向去噪的数学直觉、噪声调度与训练目标的推导、U-Net 与 DiT 两种骨干架构的取舍、潜在扩散如何用 VAE 把计算量降一个数量级、条件生成与 Classifier-Free Guidance、DDIM 等采样加速方法，以及 Stable Diffusion 文生图实战与 LoRA 微调全流程。
多模态视觉语言模型：CLIP、ViT 与 LLaVA 类 VLM 架构全解析
让模型同时看懂图和字：CLIP 对比学习与图文对齐的数学直觉、ViT 如何把图像变成 patch 序列、BLIP/LLaVA 类 VLM 的「视觉编码器 + 投影层 + LLM」三段式架构、三阶段训练流程与指令微调数据构造、分辨率与视觉 token 压缩策略、多模态评测基准，以及图文问答、文档理解等落地场景。
大模型推理服务与优化：KV Cache、PagedAttention、连续批处理与量化部署
把大模型高效地服务出去：KV Cache 的显存账本与碎片问题、PagedAttention 的分页管理、连续批处理如何把吞吐拉高数倍、vLLM/TGI/SGLang 的选型对比、INT8/FP8/AWQ/GPTQ 量化部署、投机解码的加速原理、吞吐与延迟的权衡曲线，以及压测方法与容量规划公式。
分布式训练与并行策略：DDP、张量并行、流水线并行与 ZeRO
从单卡到千卡集群的完整路线图：数据并行与 DDP 的梯度同步机制、all-reduce/all-gather 等通信原语、模型并行与张量并行切分方式、流水线并行的气泡与调度、ZeRO 三阶段与 FSDP 的显存账本、DeepSpeed 配置实战、梯度累积与混合精度配合，以及多机训练卡死、NCCL 超时、显存 OOM 的排错手册。
特征平台与训练服务一致性：时间点正确性与特征回填
解决训练与线上推理特征不一致这一 MLOps 头号难题：特征定义与血缘管理、离线批计算与在线实时计算的一致性保障、时间点连接与特征回填的正确姿势、训练服务偏差的成因剖析，以及特征监控、质量校验与用 Feast 搭建平台的落地路径。
检索增强生成与向量检索实战：Embedding、HNSW 与重排
从零搭建一条可用的 RAG 链路：embedding 模型选型与中文适配、向量索引原理（HNSW 与 IVF-PQ 的取舍）、文本分块与混合召回、交叉编码器重排、端到端评测指标（命中率与忠实度），以及生产环境的常见坑与优化清单。
实验管理与可复现：MLflow、版本化与模型注册表
让每一次训练都可复现、可追溯、可对比：MLflow 的 Tracking 与 Projects 核心概念、参数指标产物的规范记录、数据与代码版本化策略、模型注册表与生命周期管理、实验对比与可视化，以及团队协作的落地规范与常见坑。
大模型微调实战：LoRA、QLoRA 与指令数据构造全流程
从原理到落地讲透大模型微调：LoRA 低秩适配与 QLoRA 4bit 量化的数学直觉、指令数据构造与 chat template 格式化、关键超参与显存账本、PEFT 训练循环、权重合并与 vLLM 部署，以及评测与灾难性遗忘的排查清单。
图神经网络入门实战：消息传递、GCN 与 GAT
从零理解图神经网络：图的表示与邻接矩阵、消息传递机制的通用范式、GCN 的谱图卷积一阶近似与归一化、GAT 的注意力加权聚合、节点分类与图分类的任务差异，并用 PyTorch Geometric 在 Cora 数据集上跑通完整训练。
因果推断与 A/B 实验：从潜在结果到双重差分
把相关关系升级为因果关系：潜在结果框架与 ATE/ATT 的定义、DAG 与混杂因子识别、倾向得分匹配与逆概率加权的实现、双重差分与合成控制的适用条件，以及 A/B 实验的设计要点（样本量、随机化、多重比较）与结果分析方法。
模型压缩与推理优化实战：量化、剪枝与知识蒸馏
模型压缩与推理优化实战：为什么大模型要压缩、量化原理（PTQ/QAT、INT8/FP16）、剪枝（非结构化/结构化）、知识蒸馏（软标签/温度）、低秩分解、混合部署与量化感知训练、压缩的效果度量与选型、生产落地与常见陷阱。
强化学习入门实战：MDP、Q-learning 与 DQN 概览
强化学习入门实战：与监督学习区别、MDP 五要素、策略与价值函数、奖励设计、动态规划（策略迭代/值迭代）、蒙特卡洛、时序差分与 Q-learning、表格 Q 表实战、DQN 与经验回放、探索与利用、经典环境实战、常见陷阱。