模型部署精华 · 推理部署综述
量化如何把浮点数映射成低精度数值？
原题PTQ和QAT有什么区别？
原题（进阶）权重量化、激活量化和KV Cache量化分别解决什么问题？
原题模型编译在推理中解决什么问题？
原题（进阶）哪些场景更适合使用AOT或JIT编译？
原题什么是算子融合？为什么它能提升推理性能？
原题（进阶）什么是内核优化？通常会优化哪些方面？
原题计算瓶颈和访存瓶颈在推理中分别有哪些典型表现？
原题什么是计算强度？它为什么重要？
原题（进阶）如何用Roofline模型理解推理性能上限？
原题
暂无题目