准确率提升主要来自 SFT 还是后续 GRPO，如何区分贡献？

核心回答

需要保存基座、完成 SFT 后、完成 GRPO 后的检查点，在同一独立测试集、评分规则与推理条件下分别评估。基座到 SFT 的差值描述第一阶段收益，SFT 到 GRPO 的差值描述后续训练的增量；不能把最终模型相对基座的全部提升归给 GRPO。

要进一步判断增量是否来自优化方法，还应加入“从同一 SFT 检查点继续做 SFT”等对照，并尽量对齐训练数据、训练或计算预算，报告无法对齐的差异。前后测量能描述阶段变化，额外对照才有助于区分算法、数据与继续训练的作用。

分阶段比较怎样做

1. 先固定评价口径：说明准确率按什么样本计算，是否要求格式、过程或最终答案正确；验证集用于选参数和检查点，测试集留作最终比较，并检查训练与测试泄漏。
2. 对齐推理条件：提示词、对话模板、输出预算、采样次数和评分器应一致。若比较“单次回答正确率”，就不能让一组用多次采样择优，另一组只生成一次。
3. 同时看分组和坏例：按任务或难度比较，检查新增正确、原本正确但退化的样本；多随机种子或重复实验有助于估计波动，不能用一次很小的差值直接宣布收益稳定。

假设同一组 100 道题，基座答对 50 道，SFT 后 70 道，GRPO 后 76 道。这里 SFT 阶段增加 20 个百分点，后续增加 6 个百分点；这是计算示例。若等预算继续 SFT 也能答对 75 道，就不能把那 6 个百分点都解释成 GRPO 相比 SFT 的优势。

如果只有最终指标

可以先报告完整流程的最终结果，并说明缺少中间检查点或对照，尚不能拆分各阶段贡献。论文中的阶段结果、自己项目的实验，以及奖励曲线是不同证据；训练奖励上涨也不能代替独立测试准确率。

对应教程

参考资料