SFT与指令微调

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

182 道原题
  1. 【数据切分策略】会话滑窗切分,怎么既防数据泄露又保证角色对话连贯? 「腾讯」

    原题
  2. 【模型蒸馏与垂域适配】假设有一个推理能力强的大模型,如何用较小的模型在垂域去获得一个类似的效果? 「字节跳动」

    原题
  3. 【混合微调策略】有没有试过局部模型LoRA,局部full全参? 「腾讯」

    原题
  4. 【灾难性遗忘缓解】LLM的SFT阶段防止灾难性遗忘有哪些策略?具体到LoRA增量训练遇到灾难性遗忘如何解决? 「京东、百度」

    原题
  5. 【结构化输出训练】Tool use & function calling: 怎么训练让 LLM 稳定输出 JSON schema? 「字节跳动」

    原题
  6. 【评估方法比较】Zero-shot、Few-shot和微调怎么比较才公平? 「阿里通义」

    原题
  7. 【词表增删后训练影响】大规模对词表做增删之后,有没有遇到后训练时无法修正模型某些能力的现象? 「百度」

    原题
  8. 【长CoT数据构造】长cot数据怎么构造,介绍完整流程?COT的训练是如何做的,数据如何构造? 「美团、阿里通义」

    原题
  9. 【长尾知识数据构造】针对长尾知识(冷门历史事件、特定领域术语),如何构造数据以确保模型能够记住且不遗忘? 「字节跳动」

    原题
  10. 【非推理模式微调】你用的是Qwen3的小模型SFT,它分为推理/非推理模式,你怎么实现的非推理微调? 「腾讯混元」

    原题