后训练章节追问

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

46 道原题
  1. MoE 的专家会真正"专业化"吗?

    原题
  2. 为什么 DeepSeek-V3 要用共享专家?

    原题
  3. Auxiliary-Loss-Free 为什么比辅助损失更好?

    原题
  4. 推理时 Expert Parallelism 和训练时有什么区别?

    原题
  5. YaRN 和 PI 的本质区别是什么?

    原题
  6. 为什么长上下文训练必须混合短文档数据?

    原题
  7. Needle-in-a-Haystack 评测里,为什么模型在文档中间表现最差?

    原题
  8. Ring Attention 和普通张量并行有什么区别?

    原题
  9. 为什么说 MoE 是"参数变大了,但计算不一定变大"?

    原题
  10. 多模态模型的 hallucination 为什么比纯文本更棘手?

    原题