后训练综合问答

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

87 道原题
  1. R1 为什么需要 Cold-start SFT?

    原题
  2. RLVR 真的"学会推理"了吗?(谨慎回答)

    原题
  3. Overthinking 是什么?怎么控制?

    原题
  4. Token-level reward 和 Sequence-level reward 区别?

    原题
  5. DPO 变体(ORPO/KTO/SimPO/Online DPO)分别解决什么?

    原题
  6. PRM 训练数据如何构造?

    原题
  7. GRPO 中 G 取多少合适?

    原题
  8. 为什么 R1 训练不能先 GRPO 再 DPO?

    原题
  9. RLHF 训练中出现 reward collapse 怎么诊断和处理?

    原题
  10. Online DPO 相比 Offline DPO 的代价是什么?

    原题