Zig GPU 计算：Vulkan Compute 与着色器绑定
Vulkan 不只是图形 API，它的 compute queue 能直接做通用计算，且跨 NVIDIA/AMD/Intel/移动 GPU。本文用 Zig 走完 instance/device 初始化、设备内存分配、描述符集绑定、SPIR-V 管线与命令提交，并给出向量加法的完整代码与性能调优要点。
tag
GPU
共 43 篇文章。
GPU 与加速器可观测性：DCGM 指标、显存归因与 XID 故障定位
系统讲解 GPU 与加速器可观测性工程：DCGM 与 NVML 指标来源、SM 利用率与显存占用的正确读法、XID 错误码与硬件故障定位、ECC 与 NVLink 健康度、训练与推理任务的 GPU 归因（MIG、Device Plugin、Pod 标签）、功耗温度监控与告警阈值，以及常见误读与最佳实践清单。
C++ 异构计算：CUDA、SYCL 与 OpenMP Offload
把计算搬上 GPU 是性能敏感场景的必然选择。本文从异构计算的执行空间模型讲起，给出 CUDA 的 kernel、共享内存归约与统一内存实践，再讲 SYCL 单源编程与 OpenMP target offload，最后总结占用率、bank 冲突与合并访存等性能要点。
38. 并行计算与 GPU 编程模型
从 SIMD 与 SIMT 分类出发，梳理 Amdahl 与 Gustafson 并行性能定律，讲解 OpenMP 共享内存并行与 false sharing、数据竞争的成因，深入 MPI 点对点与集合通信，再到 GPU 的线程层次、warp、共享内存与合并访存，对照 CUDA 与 OpenCL 概念，并给出前缀和、矩阵乘、归约三类并行算法要点。
Nix 中的 CUDA 与机器学习环境：cudaPackages 与 PyTorch
Nix 中的 CUDA 与机器学习环境实战：GPU 环境为什么难（驱动/运行时/库三方版本约束）、nixpkgs 的 cudaPackages 布局、驱动与 cudatoolkit 的版本匹配、GPU 开发 shell 搭建、PyTorch 打包与 Python 生态、版本匹配矩阵与常见错配、容器镜像部署、cudaCapabilities 编译加速与多 GPU、常见坑与排错清单。
推理成本核算与 FinOps
本文解决 LLM 服务账单不可解释的问题：拆解 GPU 小时、token、存储、网络、向量库五类成本的计费口径与占比，给出自建与 API 的盈亏平衡计算方法与真实价格表，建立每千次请求成本、每用户成本、毛利率等单位经济指标。文中给出按团队、应用、租户打标签的归因方案，梳理量化、批处理、前缀缓存、路由、right-sizing 五类降本手段的降幅与风险，附可运行的 Python 核算脚本与常见坑。
推理服务的 Kubernetes 部署与弹性伸缩
本文面向 LLM 推理服务的生产部署，讲清 GPU 调度（device plugin、taints、MIG、time-slicing）的配置要点，比较 Deployment 与 StatefulSet 的边界，给出 startupProbe 应对模型加载的探针设计，说明 HPA 基于 CPU 失效的原因并改用 KEDA 加 Prometheus 队列深度指标，附可运行 YAML。
大模型推理引擎对比 vLLM / TensorRT-LLM / SGLang
本文对比三款主流大模型推理引擎 vLLM 0.6.3、TensorRT-LLM 0.13.0 与 SGLang 0.4.1。从架构原理（PagedAttention 与连续批处理、编译期图优化、RadixAttention 与前端 DSL）切入，给出 Llama-3-8B 与 70B 在 A100 与 H100 上的吞吐与 TTFT 对比表，详解显存与并发关键参数，并提供选型决策表与客户端代码。
跨厂商 GPU 可移植性：SYCL 与 HIP 的编程模型与迁移
当集群里同时有 NVIDIA、AMD 与 Intel 的加速器时，把代码绑死在 CUDA 上就意味着被单一供应商锁定。本文系统讲解跨厂商 GPU 可移植性：源码、编译与性能三个层次的差异，HIP 与 hipify 的迁移路径，SYCL 的队列、缓冲与访问器模型，USM 的取舍，ND-range 与 sub-group，以及性能可移植性与实战数据。
OpenACC 与指令式卸载编程：指令、异步与数据管理
对于已有的大型 Fortran 或 C 代码，重写成 CUDA 往往不现实，指令式卸载是唯一可行的加速路径。本文系统讲解 OpenACC：gang、worker、vector 三级执行模型，copy 与 present 等数据子句，kernels 与 parallel 两类计算指令，异步与流水线，与 OpenMP target 的对比，以及性能优化、调试剖析与迁移实战。
AI/ML 基础设施编排：GPU 节点池与推理服务
用 Terraform 编排 AI/ML 基础设施：GPU 节点池与自动伸缩、Kubernetes 与推理服务部署、模型与数据集存储、弹性排队与 GPU 成本优化。
「异构计算与 GPU 卸载编译」
当目标机器从单个 CPU 核变成 CPU 加加速器的组合，编译器要同时处理两套执行模型与两层内存。本文讲解 offload 指令与编程模型、并行循环到线程层级的映射、显式与统一内存的数据搬运、主机设备异步协同，以及卸载编译器的实现要点。
前端动画与渲染性能：帧率、合成层与 GPU 加速
前端动画与渲染性能：浏览器渲染流水线（解析/样式/布局/绘制/合成）、帧率与刷新率（60fps/120fps/VSync）、CSS 动画 vs JS 动画（requestAnimationFrame）、合成层与 GPU 加速（will-change/transform3d）、性能分析工具（Chrome DevTools Performance/Rendering/Layers）、常见性能陷阱（强制同步布局/布局抖动/重绘风暴）、动画优化策略（FLIP/虚拟滚动/离屏渲染）、Web Animations API、SVG 与 Canvas 动画选型。
MLOps 流水线：模型训练、评估与发布的 CI/CD 实践
把 CI/CD 思想引入机器学习交付：训练/评估/注册/发布全链路流水线（Kubeflow/Airflow/MLflow）、模型与数据集版本化、CI 里的数据漂移测试、金丝雀与 A/B 发布、GPU 编排与模型监控回滚。
Kubernetes AI/ML 工作负载：GPU 调度与训练作业
面向 AI/ML 的 Kubernetes 实战：GPU 资源声明与调度、NVIDIA Device Plugin 与 MIG 共享、TFJob/PyTorchJob 训练作业、KServe 与 vLLM 推理服务、GPU 节点池与成本、调度排队与可观测性。
NCCL 集合通信：AllReduce 原理与多卡训练网络优化
NCCL 是 GPU 集群分布式训练的通信基石。本文系统讲解集合通信为什么是 AI 训练的核心、AllReduce 环算法与树算法的带宽与延迟、AllGather/AlltoAll 等原语、NCCL 与 MPI 的对比、多机拓扑感知与 NVLink/InfiniBand 优化、通信计算重叠，以及环境变量调参与常见陷阱。
GPU 容器与 AI 推理部署：NVIDIA Container Toolkit 与 MIG 深度实践
系统讲解 GPU 容器化的完整技术栈：GPU 与容器的隔离模型、NVIDIA Container Toolkit 与 nvidia-container-runtime 架构、CUDA 基础镜像选型与版本匹配、GPU 资源调度与共享（MPS/MIG）、大模型推理容器化部署（vLLM）、多 GPU 与 MIG 切分、Kubernetes 中的 GPU 调度，以及 GPU 容器的监控排障实践。
《Impeller 渲染引擎：从 Skia 到 GPU 直管》
深入 Impeller 渲染引擎：Skia 着色器编译卡顿的根源、GPU 直管与预编译管线、MSL/GLSL 后端、绘制批处理、真机性能对比与启用回退策略。
Kubernetes 调度 HPC 作业：KubeRay、GPU 资源与调度器
Kubernetes 正成为新一代 HPC/AI 工作负载的调度平台。本文系统讲解 K8s 调度 HPC 作业：Pod/Job 模型、GPU 资源声明与设备插件、Kueue 与 Volcano 批调度器、KubeRay 运行分布式训练、MPI Operator 多节点作业、存储与网络考虑，以及超算工作流迁移到 K8s 的取舍。
分布式推理与 GPU 集群调度：张量并行、流水并行与调度器实战
当单卡放不下一个 70B 模型，或单卡无法满足线上吞吐时，分布式推理就从『可选优化』变成『必选项』。本文系统讲解张量并行、流水线并行与专家并行三大策略的通信代价与适用场景，介绍连续批处理在集群中的落地，并深入 KServe 与 Ray Serve 两类 GPU 调度器的架构与配置。一、为什么需要分布式推理