预训练与微调

题集来源:Firefly(wdndev)收录项目:llm_interview_note查看原题集

题目目录

25 道原题
  1. 如何训练自己的大模型?

    原题
  2. 指令微调的好处?

    原题
  3. 预训练和微调哪个阶段注入知识的?

    原题
  4. 想让模型学习某个领域或行业的知识,是应该预训练还是应该微调?

    原题
  5. 多轮对话任务如何微调模型?

    原题
  6. 微调后的模型出现能力劣化,灾难性遗忘是怎么回事?

    原题
  7. 预训练和SFT操作有什么不同

    原题
  8. 样本量规模增大,训练出现OOM错

    原题
  9. 大模型LLM进行SFT 如何对样本进行优化?

    原题
  10. 模型参数迭代实验

    原题