SFT与指令微调

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

182 道原题
  1. 【数据筛选方法】你提到的二分类筛选流程,这个二分类也是通过Qwen做的吗? 「京东」

    原题

    原题追问二分类数据筛选是否使用 Qwen;来源未记录分类标签及具体实现。

  2. 【数据质量分类转SFT】做数据质量分类模型的时候,人工标注数据如何转为sft数据? 「腾讯」

    原题
  3. 【框架对比】为什么要用 metragon-swift 和一般 ms-swift 区别是什么? 「腾讯」

    原题

    来源的 metragon-swift 按训练后端语境理解为 Megatron-SWIFT。

  4. 【灾难性遗忘与缓解】大模型灾难性遗忘是什么?如何解决?如何理解模型灾难性遗忘、通用能力降低,以及微调后出现能力劣化(灾难性遗忘)是怎么回事?如何缓解? 「字节跳动、百度、腾讯、腾讯混元」

    原题
  5. 【灾难性遗忘防止】追问2:如何防止微调过程中的灾难性遗忘? 「百度」

    原题
  6. 【答案生成优化】答案生成环节做了哪些优化? 「百度」

    原题
  7. 【蒸馏教师模型选择】在大模型蒸馏中,如何选择合适的TeacherModel? 「字节跳动」

    原题
  8. 【蒸馏轨迹使用】模型蒸馏时所有轨迹都用于SFT吗? 「腾讯」

    原题
  9. 【训练推理流程与SFT/RLHF】讲一下大模型训练和推理的流程,SFT和RLHF的作用分别是什么? 「腾讯混元」

    原题
  10. 【训练样本选择】微调 Llama2 你是怎么选择训练样本的? 「百度」

    原题