真面经，好答案。面试之前，先来面栈。

推理优化与模型压缩

本分类共 8 个专题 · 1061 道题

已筛选

共 81 道题

排序：

5687
通道级混合精度量化如何按显著性分配位宽？
模型基础与推理推理优化与模型压缩
原理机制
进阶
暂无面经1 份题集
5737
NF4 如何表示和量化权重，与普通整数或浮点低精度表示有什么区别？
模型基础与推理推理优化与模型压缩
原理机制
进阶
暂无面经4 份题集
5752
模型压缩中的前端结构优化与后端执行优化有什么区别？
模型基础与推理推理优化与模型压缩
比较选型
进阶
暂无面经2 份题集
5753
什么是稀疏模型，稀疏性何时能带来实际收益？
模型基础与推理推理优化与模型压缩
原理机制
进阶
暂无面经1 份题集
5847
图像生成中的空间分块推理如何降低显存并处理接缝？
模型基础与推理推理优化与模型压缩
原理机制
进阶
暂无面经1 份题集
6005
测试时数据增强如何反变换并融合预测，有哪些收益与代价？
模型基础与推理推理优化与模型压缩
原理机制
进阶
暂无面经1 份题集
6024
DSpark 如何通过半自回归草稿和置信度调度优化投机解码？
模型基础与推理推理优化与模型压缩
原理机制
深入
暂无面经1 份题集
6083
实现 INT8 量化线性层。
模型基础与推理推理优化与模型压缩
代码题
深入
暂无面经1 份题集
6088
实现分页 KV Cache 的寻址与注意力读取。
模型基础与推理推理优化与模型压缩
代码题
深入
暂无面经1 份题集
6226
如何估算指定大模型一次推理的显存访问量？
模型基础与推理推理优化与模型压缩
原理机制
深入
暂无面经2 份题集