补充概念与机制问答

题集来源:Firefly(wdndev)收录项目:llm_interview_note查看原题集

题目目录

44 道原题
  1. 什么是语言模型

    原题
  2. 专家如何学习?

    原题
  3. 专家的数量对预训练有何影响?

    原题
  4. 什么是MoE大模型?

    原题
  5. MoE大模型具备哪些优势?

    原题
  6. 什么是 长度外推问题?

    原题
  7. 长度外推问题 的 解决方法 有哪些?

    原题
  8. 预训练数据 Token 重复 是否影响 模型性能?

    原题
  9. SFT需要训练Token数?

    原题
  10. 为什么要考虑在重复的数据集上做多次训练?

    原题