真面经，好答案。面试之前，先来面栈。

蒸馏与模型合并

本分类共 9 个专题 · 761 道题

已筛选

共 19 道题

排序：

3270
什么是知识蒸馏？
模型训练与对齐蒸馏与模型合并
概念解释
基础
3 篇面经3 个题集来源
5545
On-Policy Distillation 如何利用学生采样和教师反馈训练，有哪些条件？
模型训练与对齐蒸馏与模型合并
原理机制
进阶
3 篇面经3 个题集来源
4766
如何设计从大模型到小模型的蒸馏策略，并验证能力保留？
模型训练与对齐蒸馏与模型合并
方案设计
深入
暂无面经5 个题集来源
0347
项目中的模型蒸馏具体如何实现？
模型训练与对齐蒸馏与模型合并
项目深挖
进阶
1 篇面经2 个题集来源
4166
模型蒸馏数据如何构造和清洗？
模型训练与对齐蒸馏与模型合并
项目深挖
进阶
1 篇面经2 个题集来源
5558
中间特征蒸馏如何选层、对齐并设计损失？
模型训练与对齐蒸馏与模型合并
原理机制
进阶
暂无面经3 个题集来源
2970
蒸馏时如何避免学生学到教师错误的推理链？
模型训练与对齐蒸馏与模型合并
方案设计
进阶
1 篇面经1 个题集来源
4729
以 DeepSeek-R1 为教师蒸馏小模型，与直接对小模型进行强化学习有何区别？
模型训练与对齐蒸馏与模型合并
比较选型
进阶
暂无面经2 个题集来源
4945
如何合并多个 LoRA 适配器，并验证兼容性与效果？
模型训练与对齐蒸馏与模型合并
方案设计
进阶
暂无面经2 个题集来源
5829
一致性蒸馏与 LCM-LoRA 如何将多步扩散转换为少步生成？
模型训练与对齐蒸馏与模型合并
原理机制
进阶
暂无面经2 个题集来源