真面经，好答案。面试之前，先来面栈。

蒸馏与模型合并

本分类共 9 个专题 · 1113 道题

已筛选

共 32 道题

排序：

14116
教师模型打分并指导学生强化学习时，应怎样判断其训练范式？
模型训练与对齐蒸馏与模型合并
原理机制
进阶
1 篇面经
14277
缺少强真值时，怎样量化教师模型错误对蒸馏学生模型的负面影响？
模型训练与对齐蒸馏与模型合并
效果评估
进阶
1 篇面经
15976
知识蒸馏适合放在大模型预训练阶段吗，如何判断？
模型训练与对齐蒸馏与模型合并
技术决策
进阶
1 篇面经
16264
知识蒸馏的损失函数如何设计？
模型训练与对齐蒸馏与模型合并
原理机制
进阶
1 篇面经
1827
实习中的轨迹蒸馏具体如何实现？
模型训练与对齐蒸馏与模型合并
项目深挖
深入
1 篇面经
18730
使用人工输出训练大模型，能否理解为对人工能力的知识蒸馏？
模型训练与对齐蒸馏与模型合并
开放讨论
—
1 篇面经
18846
On-Policy Distillation 的损失函数由哪些部分构成，设计思路是什么？
模型训练与对齐蒸馏与模型合并
原理机制
进阶
1 篇面经
5817
模型权重融合如何组合能力，分层插值有哪些兼容与验证条件？
模型训练与对齐蒸馏与模型合并
方案设计
进阶
暂无面经1 个题集来源
6073
实现结合软标签与真实标签的知识蒸馏损失。
模型训练与对齐蒸馏与模型合并
代码题
进阶
暂无面经1 个题集来源
6355
模型权重合并如何组合能力，怎样控制参数干扰？
模型训练与对齐蒸馏与模型合并
原理机制
深入
暂无面经1 个题集来源