tag

剪枝

共 8 篇文章。
全部文章GoTypeScript游戏开发小游戏游戏设计Godot书稿RustPython性能优化游戏引擎PRDSaaS游戏服务端
计算机视觉

模型压缩与端侧部署

本文系统讲解视觉模型压缩与端侧部署,回答 PTQ 与 QAT 怎么选、剪枝后要不要重训、蒸馏怎么落地、ONNX Runtime 与 TensorRT 与 NCNN 各自适合什么设备等实战问题。覆盖 int8 量化与校准、结构化与非结构化剪枝、logit 与特征蒸馏、主流端侧运行时,并给出 ONNX Runtime 量化对比与动态量化两段可运行代码,附框架对比表、精度与延迟影响表、权衡与常见坑。

8 分钟阅读
模型压缩 量化 剪枝
graphdb

深度路径遍历优化:变长路径、遍历器与剪枝

系统讲解图数据库深度路径遍历的优化:多跳查询的挑战(组合爆炸与重复展开)、变长路径查询的语义与写法(*1..5 的展开、方向与约束)、遍历顺序与剪枝策略(先过滤后遍历、方向裁剪、深度限制)、图遍历器与策略(BFS/DFS、双向遍历、迭代式展开)、深度遍历的性能陷阱(路径笛卡尔积、关系属性过滤、无索引展开)、索引与存储优化(关系索引、邻接表缓存)、遍历的批处理与预计算(物化路径、动态规划中间结果)、以及资金链/社交网络深层遍历的实践与遍历监控调优,帮助在图上高效执行大跳数查询。

15 分钟阅读
剪枝
ai

模型压缩:量化、剪枝、蒸馏与部署优化实战

模型压缩让大模型在有限显存与延迟预算下可用,是边缘部署与降本增效的关键。本文系统讲解模型压缩四大技术:量化(PTQ/QAT/INT8/INT4/FP16)、剪枝(结构化/非结构化)、知识蒸馏(logits/特征/教师学生)、低秩分解,并结合 ONNX/TensorRT/TVM 部署优化、显存与吞吐权衡、精度保持评估方法,以及 LLM 量化与边缘部署的实战案例。

11 分钟阅读
模型压缩 量化 INT8