后训练:微调与对齐

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

26 道原题
  1. LoRA 通常插入哪些位置?不同 target modules 有什么影响?

    原题
  2. QLoRA 如何在 LoRA 基础上进一步节省显存?

    原题
  3. LoRA 有哪些常见改进方案?如 LoRA+、AdaLoRA、DoRA 等分别解决什么问题?

    原题
  4. Adapter 的原理是什么?它适合什么场景?

    原题
  5. Prefix Tuning 的原理是什么?它适合什么场景?

    原题
  6. Prompt Tuning 和 P-Tuning / P-Tuning v2 有什么区别?

    原题
  7. Adapter、Prefix Tuning、Prompt Tuning、P-Tuning 和 LoRA 的核心区别是什么?

    原题
  8. 实际项目中如何选择不同的 PEFT 方法?

    原题
  9. 为什么大语言模型对齐训练会从近端策略优化(PPO)发展到直接偏好优化(DPO)和组相对策略优化(GRPO)?三者在奖励模型、训练稳定性和成本上有什么区别?

    原题
  10. 大语言模型后训练中组相对策略优化(GRPO)如何提升推理能力?为什么可以去掉价值(critic)?

    原题