低比特量化增加了反量化等步骤，为什么仍可能加速推理？

知识专题：推理优化与模型压缩题目类型：原理机制技术难度：进阶

相关面经：1 篇

未标记

Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~

问 AI

Kimi 千问 ChatGPT

本题目录

相关面经

1 篇

蚂蚁集团

AI Infra 实习生

2026-04-11暑期实习一面

查看原面经 →

像 AWQ 这种量化方式，看起来其实给模型增加了很多步骤，比如把 BF16 压成更低比特，计算的时候又要做一些反量化，那为什么最后整体还是会有加速