真面经，好答案。面试之前，先来面栈。

推理优化与模型压缩

本分类共 8 个专题 · 1061 道题

已筛选

共 81 道题

排序：

6251
实现 INT8 Per-Tensor 量化与反量化。
模型基础与推理推理优化与模型压缩
代码题
进阶
暂无面经2 份题集
6364
什么是直通估计器，为什么量化感知训练需要近似梯度？
模型基础与推理推理优化与模型压缩
原理机制
进阶
暂无面经1 份题集
6365
如何为长短请求混合的 LLM 服务设计 KV Cache 淘汰策略？
模型基础与推理推理优化与模型压缩
方案设计
深入
暂无面经1 份题集
6366
MoE 专家权重卸载如何工作，会怎样影响推理性能？
模型基础与推理推理优化与模型压缩
原理机制
深入
暂无面经1 份题集
6367
MLX 如何利用 Apple Silicon 执行大模型推理？
模型基础与推理推理优化与模型压缩
原理机制
进阶
暂无面经1 份题集
6368
llama.cpp 的 k-quants 如何组织分块量化，与普通均匀量化有何区别？
模型基础与推理推理优化与模型压缩
原理机制
进阶
暂无面经1 份题集
6372
如何依据推理部署约束设计模型架构？
模型基础与推理推理优化与模型压缩
方案设计
深入
暂无面经2 份题集
6423
SVDQuant 与 Nunchaku 如何结合低秩分支和低比特执行加速扩散模型？
模型基础与推理推理优化与模型压缩
原理机制
进阶
暂无面经1 份题集
6424
扩散模型如何在去噪步骤间复用特征并控制缓存误差？
模型基础与推理推理优化与模型压缩
原理机制
进阶
暂无面经2 份题集
6878
FlashDecoding 如何并行长 KV 序列，与 FlashAttention 有何区别？
模型基础与推理推理优化与模型压缩
比较选型
深入
暂无面经1 份题集