训练、数据与模型优化：从数据清洗到 LoRA题集来源：Onefly（ranxi2001）收录项目：zero2Agent查看原题集 题目目录161 道原题隐藏关联题目排序默认排序面经最多131知识蒸馏中教师模型如何选择？原题 关联题目如何设计从大模型到小模型的蒸馏策略，并验证能力保留？模型训练与对齐 / 蒸馏与模型合并方案设计深入0篇相关面经132特征蒸馏的 Loss 如何设计？原题 关联题目中间特征蒸馏如何选层、对齐并设计损失？模型训练与对齐 / 蒸馏与模型合并原理机制进阶0篇相关面经133模型蒸馏有哪些主要方式？原题 关联题目如何设计从大模型到小模型的蒸馏策略，并验证能力保留？模型训练与对齐 / 蒸馏与模型合并方案设计深入0篇相关面经134中间特征蒸馏如何选择蒸馏层？原题 关联题目中间特征蒸馏如何选层、对齐并设计损失？模型训练与对齐 / 蒸馏与模型合并原理机制进阶0篇相关面经135模型蒸馏后效果不佳如何系统排查与优化？原题 关联题目如何设计从大模型到小模型的蒸馏策略，并验证能力保留？模型训练与对齐 / 蒸馏与模型合并方案设计深入0篇相关面经136SFT 应如何选择优化器？原题 关联题目大模型训练常用哪些优化器，AdamW 与 Adam 有什么区别？模型训练与对齐 / 训练框架、调参与排障比较选型进阶0篇相关面经137MMoE 是什么？如何通过多专家结构解决多任务学习中的任务冲突？原题 关联题目MMoE 如何通过多门控专家结构进行多任务学习？模型基础与推理 / 机器学习与推荐系统原理机制进阶0篇相关面经138RLVF（基于可验证反馈的强化学习）是什么？原题 关联题目Agent 后训练中的 Verifier 如何设计？模型训练与对齐 / Verifier 与训练评测方案设计进阶2篇相关面经139拉格朗日对偶原理是什么？原题 关联题目约束优化中的拉格朗日对偶、KKT 与强对偶条件有什么联系？模型基础与推理 / 机器学习与推荐系统原理机制深入0篇相关面经140KKT 条件是什么？各条件分别有什么含义？原题 关联题目约束优化中的拉格朗日对偶、KKT 与强对偶条件有什么联系？模型基础与推理 / 机器学习与推荐系统原理机制深入0篇相关面经暂无题目共 161 道原题 · 显示 131–140 道展开全部161题上一页1…131415…1714 / 17下一页