后训练章节追问
为什么 Pre-training 这么强了,还一定要做 Post-Training?
原题Alignment Tax 和 Reward Hacking 有什么关系?
原题为什么 SFT 时通常只对 Assistant 部分计算 Loss?
原题Sequence Packing 的真实难点是什么?
原题为什么 Reward Model 常用 Bradley-Terry,而不是直接做绝对分数回归?
原题ORM 和 PRM 到底怎么选?
原题RLHF 为什么通常要保留 Reference Model?
原题RLAIF 能不能彻底替代人类标注?
原题为什么 PPO 里一定要有 Advantage,而不是直接拿 reward 更新?
原题GAE 的核心直觉是什么?
原题DPO 里的 $\beta$ 到底控制什么?
原题什么时候会优先用 DPO,而不是直接上 RLHF?
原题GRPO 相比 PPO 的核心价值是什么?
原题怎么一句话区分 DAPO / VAPO / GSPO?
原题为什么说 RLVR 不能"凭空创造知识"?
原题Qwen3 的 Hybrid Thinking 模式为什么重要?
原题数据飞轮最容易在哪一步翻车?
原题去污染为什么不能只做字符串去重?
原题LoRA 里的 B=0 初始化为什么这么关键?
原题什么时候应该 merge LoRA,什么时候不 merge?
原题Tool-use RL 最难的地方是什么?
原题MCP 为什么会提升 Agent 训练价值?
原题为什么 Test-Time Compute 对数学和代码特别有效?
原题MCTS 里 LLM 和 PRM 分别扮演什么角色?
原题Flash Attention 和标准 Attention 输出完全一样吗?
原题为什么 Speculative Decoding 能保证输出分布不变?
原题量化后推理速度一定更快吗?
原题PD 分离的核心收益是什么?
原题ZeRO、TP、PP 的本质区别是什么?
原题为什么 BF16 逐渐取代 FP16 成为训练默认值?
原题MoE 的专家会真正"专业化"吗?
原题为什么 DeepSeek-V3 要用共享专家?
原题Auxiliary-Loss-Free 为什么比辅助损失更好?
原题推理时 Expert Parallelism 和训练时有什么区别?
原题YaRN 和 PI 的本质区别是什么?
原题为什么长上下文训练必须混合短文档数据?
原题Needle-in-a-Haystack 评测里,为什么模型在文档中间表现最差?
原题Ring Attention 和普通张量并行有什么区别?
原题为什么说 MoE 是"参数变大了,但计算不一定变大"?
原题多模态模型的 hallucination 为什么比纯文本更棘手?
原题为什么 LLaVA 比 BLIP-2 更好,尽管 LLaVA 更简单?
原题SigLIP 和 CLIP 的本质区别是什么?
原题2D RoPE 对哪些任务提升最大?
原题幻觉问题用视觉 CoT 解决的原理是什么?
原题视频理解和图像理解最大的工程区别是什么?
原题多模态 Verifier 的常见来源有哪些?
原题
暂无题目