理论基础面试题
GRPO的KL散度是什么？KL散度中超参数如何设计？
原题为什么使用强化学习会存在训练不稳定问题？为什么业界还在用？
原题rollout数量、batchsize数量和计算资源(卡的数量)有什么关系？线性？非线性？
原题真实采样数量一定等于rollout数量吗？
原题交叉熵和KL散度的联系和区别？PPO的KL散度可以改成交叉熵吗？分类任务可以用KL散度吗？
原题在使用 GRPO 提升大模型的Function Calling 能力时，除了结果奖励(outcome reward)，还可以如何设计过程奖励(process reward)？
原题如何降低 Transformer 的计算复杂度？常见的稀疏注意力变体有哪些？
原题KV Cache是什么？为什么能极大地提升推理速度？
原题LoRA微调的原理是什么？秩 r 的选择会对模型表现产生什么影响？
原题在有限算力下做大模型微调有哪些常用方法？
原题
暂无题目