FPGA 可重构加速
FPGA 用可重构逻辑换取极致的能效与确定性延迟。本文讲清 LUT/DSP/BRAM 的硬件结构、HDL 与 HLS 两条开发路径、数据搬运与流水线设计、部分重配置、工具链生态、典型加速场景,以及 FPGA 与 CPU/GPU 协同的异构编程与选型权衡。
category
FPGA 用可重构逻辑换取极致的能效与确定性延迟。本文讲清 LUT/DSP/BRAM 的硬件结构、HDL 与 HLS 两条开发路径、数据搬运与流水线设计、部分重配置、工具链生态、典型加速场景,以及 FPGA 与 CPU/GPU 协同的异构编程与选型权衡。
互连拓扑决定集群能扩展多大、花多少钱。本文对比 Fat-tree、Torus 与 Dragonfly 三类主流拓扑的结构、对分带宽、直径与成本,讲清无阻塞与超订、维度路由与自适应路由、拥塞控制、光互连与共封装光学,以及拓扑感知的作业放置与通信优化。
检查点是让长时作业在故障后「快速回来」的核心机制。本文讲清全量/增量/多级检查点的取舍、SCR 与 VeloC 等库的用法、检查点 IO 优化与冗余级别、ULFM 运行时容错、Young/Daly 最优间隔公式,以及 Slurm 上的自动重启与信号处理实践。
并行 bug 往往表现为挂起、结果飘忽或只在特定进程数下复现。本文梳理死锁、数据竞争、越界与数值非确定性的分类诊断方法,给出 gdb、TotalView/DDT、Sanitizer、Valgrind、结构化日志与时间线工具的组合用法与调试工作流。
从 COO/CSR/ELL/BSR 等存储格式的内存布局讲起,剖析稀疏矩阵向量乘(SpMV)的访存受限本质,给出寄存器分块、SELL-C-σ 与 merge-based 等优化手段,并梳理 SpGEMM、SpTRSV、Krylov 求解器与预条件的选型方法。
从派生数据类型的内存布局与 extent 语义讲起,系统梳理 MPI 通信子与进程组的切分方法、单边通信(RMA)的窗口与同步模型、持久化请求与邻居集合通信、共享内存窗口与动态进程管理,并给出可落地的性能调优与调试清单,帮助读者写出高扩展的并行程序。
在容错量子计算机到来之前,真正可用的形态是量子-经典混合计算。本文系统讲解混合计算的完整栈:量子比特与门的基础、VQE 与 QAOA 等变分算法、态矢量与张量网络模拟器、参数优化与梯度估计、把 QPU 当作加速器接入 HPC 作业调度、混合编程框架,以及噪声与误差缓解的工程实践。
当集群里同时有 NVIDIA、AMD 与 Intel 的加速器时,把代码绑死在 CUDA 上就意味着被单一供应商锁定。本文系统讲解跨厂商 GPU 可移植性:源码、编译与性能三个层次的差异,HIP 与 hipify 的迁移路径,SYCL 的队列、缓冲与访问器模型,USM 的取舍,ND-range 与 sub-group,以及性能可移植性与实战数据。
对于已有的大型 Fortran 或 C 代码,重写成 CUDA 往往不现实,指令式卸载是唯一可行的加速路径。本文系统讲解 OpenACC:gang、worker、vector 三级执行模型,copy 与 present 等数据子句,kernels 与 parallel 两类计算指令,异步与流水线,与 OpenMP target 的对比,以及性能优化、调试剖析与迁移实战。
在百亿亿次级超算上,IO 往往比计算更早撞墙。本文系统讲解并行 IO 栈:HDF5 的数据模型与并行 HDF5、NetCDF-4 与 CF 约定、ADIOS2 的引擎抽象与 BP5、MPI-IO 与 ROMIO 的集合 IO 与两阶段算法、数据布局与访问模式优化、检查点与容错 IO,以及一套可量化的调优方法。
浮点是科学计算的底座,也是性能与正确性的主战场。本文系统讲解 IEEE 754 的表示与舍入、误差来源与条件数、求和与消去带来的数值不稳定、FP64/FP32/TF32/BF16/FP16/FP8 的类型版图、迭代精化与残差校正驱动的混合精度、张量核实践,以及精度验证与可复现性的工程方法。
编译器是把算法变成机器码的最后一道关口。本文系统讲解 HPC 编译器优化:GCC、LLVM/Clang 与 Intel oneAPI 的优化级别与关键选项语义、自动向量化报告与阻塞原因、内联与快速数学的取舍、LTO 跨模块优化、PGO 两阶段闭环、搜索式自动调优,以及一套可复现的调优流程与实测数据。
ARM 正在重塑超算版图。本文系统讲解 ARM 进入超算的路径:A64FX 与富岳的 SVE 向量架构、NVIDIA Grace 的 CPU 与 GPU 紧耦合、Neoverse 云原生服务器、能效优势(同性能一半功耗)、软件生态与移植挑战、HPL/HPCG/SPEC 实测,以及专用加速器与 ARM 的配合与选型决策。
科学计算与深度学习的边界正在消失。本文系统讲解 HPC 与 AI 融合:超算为什么能跑大模型训练、GPU 集群拓扑(NVLink/InfiniBand)、数据并行与模型并行、Horovod 与 DeepSpeed、HPC/AI 作业混合调度、科学 ML,以及融合平台的存储与 I/O 挑战。
超算从追求速度转向追求能效。本文系统讲解绿色 HPC:功耗墙与能效指标、动态功耗与静态功耗模型、功率封顶(Power Capping)原理与工具、DVFS 频率管理、能源感知调度、液冷与数据中心冷却、碳足迹与 PUE,以及 Green500 榜单解读与落地路线图。
CPU/GPU/DPU 异构时代的核心矛盾是「一套代码跑遍所有加速器」。本文系统讲解可移植异构编程模型:Kokkos 的 View/RangePolicy 抽象、SYCL/oneAPI/DPC++ 的队列模型、跨 CPU/GPU 的单源码写法、内存空间与数据搬运、归约与原子操作对照,以及性能可移植性与后端选择。
SIMD 是单核性能的最后堡垒。本文系统讲解 SIMD 原理与指令集版图(SSE/AVX/AVX-512/NEON/SVE)、编译器自动向量化的工作方式与优化指令、intrinsics 手写向量化、数据布局与内存访问、Roofline 视角的向量利用率、归约与循环向量化陷阱,以及可移植向量化与调优工具链。
NCCL 是 GPU 集群分布式训练的通信基石。本文系统讲解集合通信为什么是 AI 训练的核心、AllReduce 环算法与树算法的带宽与延迟、AllGather/AlltoAll 等原语、NCCL 与 MPI 的对比、多机拓扑感知与 NVLink/InfiniBand 优化、通信计算重叠,以及环境变量调参与常见陷阱。
大规模科学计算中,I/O 往往是隐藏的瓶颈。本文系统讲解并行 I/O:MPI-IO 的独立/集合文件视图、HDF5 的数据模型与并行写入、NetCDF 的自描述格式、Lustre 条带化与数据布局优化、I/O 性能剖析(Darshan/io 500),以及从串行读写升级到并行 I/O 的真实路径。
分子动力学(MD)是 HPC 最经典的科学应用之一。本文系统讲解 MD 仿真原理:牛顿积分与力场、邻居列表与域分解并行、GROMACS 与 LAMMPS 的并行加速(OpenMP/MPI/GPU)、PMe 静电与约束算法、Amber 力场选择、性能调优与千万原子规模仿真,以及 MD 工作负载对 HPC 架构的启示。