后训练:微调与对齐

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

26 道原题
  1. 什么是微调?与预训练、后训练、提示工程有什么关系?

    原题
  2. 大语言模型微调的目标有哪些?

    原题
  3. 全量参数微调与参数高效微调分别是什么?有什么区别?

    原题
  4. 大语言模型微调训练中的关键超参数有哪些?它们如何影响效果、成本和稳定性?

    原题
  5. 大语言模型微调后如何评估效果?

    原题
  6. 大语言模型监督微调数据如何构造?高质量 SFT 数据需要满足哪些要求?

    原题
  7. 大语言模型 SFT 中为什么通常只对助手回复计算损失?损失掩码应该如何设置?

    原题
  8. 大语言模型微调中如何避免过拟合和灾难性遗忘?

    原题
  9. LoRA 的原理是什么?为什么适合大语言模型参数高效微调?

    原题
  10. LoRA 的低秩矩阵 Rank 和 alpha 参数有什么作用?还有哪些关键参数?

    原题