训练、数据与模型优化:从数据清洗到 LoRA

题集来源:Onefly(ranxi2001)收录项目:zero2Agent查看原题集

题目目录

161 道原题
  1. GPTQ、AWQ、SmoothQuant 与 AdaQuant 的核心思路有什么不同?

    原题

    原题未将 AdaQuant 绑定到具体论文或库。

  2. 为什么 Step-level SFT 之后再进行 GRPO,通常比直接从基座模型开始做 GRPO 稳定?

    原题
  3. 预训练与 SFT 在数据、目标函数、计算形态和基础设施上有什么区别?

    原题
  4. LoRA 应该挂在哪些层?rank、alpha 和 dropout 如何共同影响效果?

    原题
  5. Transformer 自注意力机制的原理、计算过程与作用是什么?

    原题
  6. GRPO 中相对奖励是如何计算的?同一组奖励方差接近零时如何处理?

    原题
  7. Agent 交互轨迹与普通语言模型语料有什么区别?如何仿真高质量轨迹?

    原题
  8. Agentic CPT、SFT、RL 三阶段分别训练什么能力?

    原题
  9. Agentic RL 与普通 LLM RL 的核心差异是什么?

    原题
  10. 长时序任务中的 Agent RL 为什么容易训练失稳?如何缓解?

    原题