后训练:微调与对齐
LoRA 通常插入哪些位置?不同 target modules 有什么影响?
原题QLoRA 如何在 LoRA 基础上进一步节省显存?
原题LoRA 有哪些常见改进方案?如 LoRA+、AdaLoRA、DoRA 等分别解决什么问题?
原题Adapter 的原理是什么?它适合什么场景?
原题Prefix Tuning 的原理是什么?它适合什么场景?
原题Prompt Tuning 和 P-Tuning / P-Tuning v2 有什么区别?
原题Adapter、Prefix Tuning、Prompt Tuning、P-Tuning 和 LoRA 的核心区别是什么?
原题实际项目中如何选择不同的 PEFT 方法?
原题为什么大语言模型对齐训练会从近端策略优化(PPO)发展到直接偏好优化(DPO)和组相对策略优化(GRPO)?三者在奖励模型、训练稳定性和成本上有什么区别?
原题大语言模型后训练中组相对策略优化(GRPO)如何提升推理能力?为什么可以去掉价值(critic)?
原题
暂无题目