43. 数值方法与浮点误差:稳定性与精度分析
从 IEEE 754 的位布局讲起,厘清规格化数、次正规数与特殊值的编码规则,量化机器精度与 ULP 的含义,剖析灾难性抵消的三种典型场景,给出求和、二次方程求根与递推公式的稳定化改造,用条件数区分病态问题与不稳定算法,最后对照二分法与牛顿法的收敛阶与终止准则。
category
从 IEEE 754 的位布局讲起,厘清规格化数、次正规数与特殊值的编码规则,量化机器精度与 ULP 的含义,剖析灾难性抵消的三种典型场景,给出求和、二次方程求根与递推公式的稳定化改造,用条件数区分病态问题与不稳定算法,最后对照二分法与牛顿法的收敛阶与终止准则。
自底向上理解计算机如何执行程序:指令集架构(RISC 与 CISC)的取舍、数据的机器表示与浮点标准、CPU 数据通路与控制器、五级流水线的设计、结构冒险/数据冒险/控制冒险的成因与解决、存储层次与缓存局部性,以及 CPI、Amdahl 定律等性能度量方法。
系统掌握 CPU 缓存体系:L1/L2/L3 层级与局部性、Cache Line 与伪共享、直接/组相联/全相联映射、写回与写直达、MESI 协议与总线嗅探、一致性优化(对齐/padding)与性能测量工具。