返回全部题目← 上一题6 / 18下一题 →题库/模型训练与对齐/Q-4166模型蒸馏数据如何构造和清洗？知识专题：蒸馏与模型合并题目类型：项目深挖技术难度：进阶相关面经：1 篇收录题集：7 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）自动带入当前题目本题目录相关面经收录题集相关题目相关面经1 篇蚂蚁集团2026-09-23面经合集查看原面经 →模型蒸馏的数据如何做的?如何清洗馏得到的数据?收录题集7 份SFT与指令微调阿东玩 AI · AgentGuide · 1 条原题查看题集 →【蒸馏轨迹使用】模型蒸馏时所有轨迹都用于SFT吗？ 「腾讯」强化学习与对齐阿东玩 AI · AgentGuide · 1 条原题查看题集 →介绍实习中用到的蒙特卡罗树，对比GRPO呢？它本身也可以thinking，cot的数据是怎么构造的，最初的是哪来的？模型自己生成，为什么不用更高维的模型生成数据？原有模型会有固定的思考方式，会影响效果，这种方式是自己想的还是改进的？数据与评测阿东玩 AI · AgentGuide · 1 条原题查看题集 →【教师模型温度设置】教师模型打标答案的时候温度怎么设置？ 「腾讯」腾讯问答汇编Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →合成数据是怎么做的，如何保证多样性？vivo高频面试题Rocky Ding · AIGC-Interview-Book · 2 条原题查看题集 →VQA 数据的 Query 和 Answer 是如何生成的？数据生成后有没有做校验与过滤？怎么做的？展开剩余 2 份题集AI多模态精华版·基石模型核心技术Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →LLaVA 如何借助纯文本 GPT-4 合成多模态指令数据？多模态前沿技术Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →自注释方法在构建MCoT数据集中的作用及局限性？相关题目4 题0084蒸馏受限时，如何选择后训练方法提升模型能力？同一知识专题题目类型：方案设计技术难度：进阶相关面经：1 篇0347项目中的模型蒸馏具体如何实现？同一知识专题题目类型：项目深挖技术难度：进阶相关面经：1 篇1827实习中的轨迹蒸馏具体如何实现？同一知识专题题目类型：项目深挖技术难度：深入相关面经：1 篇2970蒸馏时如何避免学生学到教师错误的推理链？同一知识专题题目类型：方案设计技术难度：进阶相关面经：1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题什么是知识蒸馏？下一题 →以 DeepSeek-R1 为教师蒸馏小模型，与直接对小模型进行强化学习有何区别？
