模型量化技术详解：INT8、FP16 与混合精度推理
在深度学习落地过程中，模型体积与推理延迟往往是最大的拦路虎。一个经过充分训练的 ResNet-50 FP32 模型约有 98 MB，而大型语言模型的参数规模更是以 GB 甚至 TB 计。
tag
深度学习
共 5 篇文章。
TensorRT 深度实践：从 ONNX 到高性能推理引擎
1. TensorRT 简介 TensorRT 是 NVIDIA 推出的高性能深度学习推理 SDK，核心目标是将训练好的模型转化为能够在 NVIDIA GPU 上高效执行的推理引擎。与基于 PyTorch、TensorFlow 的原生推理相比，TensorRT 通过层融合（Layer Fusion）
cuBLAS / cuDNN / cuFFT：NVIDIA 加速库实战
在 CUDA C++ 应用开发中，开发者很少从零编写核函数。NVIDIA 官方提供了一套经过深度优化的加速库，覆盖线性代数、深度学习、信号处理、并行算法等核心场景。这套库不仅性能卓越，而且经过大量生产环境验证。
05. 卷积神经网络 CNN
CNN 卷积神经网络全解析：卷积/池化/全连接、经典网络 LeNet 到 EfficientNet、目标检测基础、数据增强与迁移学习
机器学习的学习计划
为有编程基础的学习者设计 12 个月机器学习学习计划，覆盖数学基础、Python、经典算法、深度学习、项目实践、工具选择、评估方法和求职作品集。