SFT与指令微调
【数据筛选方法】你提到的二分类筛选流程,这个二分类也是通过Qwen做的吗? 「京东」
原题原题追问二分类数据筛选是否使用 Qwen;来源未记录分类标签及具体实现。
【数据质量分类转SFT】做数据质量分类模型的时候,人工标注数据如何转为sft数据? 「腾讯」
原题【框架对比】为什么要用 metragon-swift 和一般 ms-swift 区别是什么? 「腾讯」
原题来源的 metragon-swift 按训练后端语境理解为 Megatron-SWIFT。
【灾难性遗忘与缓解】大模型灾难性遗忘是什么?如何解决?如何理解模型灾难性遗忘、通用能力降低,以及微调后出现能力劣化(灾难性遗忘)是怎么回事?如何缓解? 「字节跳动、百度、腾讯、腾讯混元」
原题【灾难性遗忘防止】追问2:如何防止微调过程中的灾难性遗忘? 「百度」
原题【答案生成优化】答案生成环节做了哪些优化? 「百度」
原题【蒸馏教师模型选择】在大模型蒸馏中,如何选择合适的TeacherModel? 「字节跳动」
原题【蒸馏轨迹使用】模型蒸馏时所有轨迹都用于SFT吗? 「腾讯」
原题【训练推理流程与SFT/RLHF】讲一下大模型训练和推理的流程,SFT和RLHF的作用分别是什么? 「腾讯混元」
原题【训练样本选择】微调 Llama2 你是怎么选择训练样本的? 「百度」
原题
暂无题目