真面经，好答案。面试之前，先来面栈。

补充概念与机制问答

题集来源：Firefly（wdndev）收录项目：llm_interview_note查看原题集

题目目录

44 道原题

  1. MoE如何解决Fine-Tuning过程中的过拟合问题？

    原题
    关联题目MoE 模型微调时，如何缓解过拟合？模型训练与对齐 / 预训练、续训与 SFT方案设计进阶0篇相关面经

  2. 与Transformer区别

    原题
    关联题目BERT 的整体结构是什么，如何形成双向上下文表示？模型基础与推理 / 模型架构与表示原理机制基础0篇相关面经

  3. DP和DDP的区别

    原题
    关联题目PyTorch 的 DataParallel 与 DistributedDataParallel 有什么区别？模型训练与对齐 / 训练框架、调参与排障比较选型进阶0篇相关面经

  4. DDP和FSDP的区别

    原题
    关联题目DDP 与 FSDP 在状态存储、通信和执行流程上有什么区别？模型训练与对齐 / 分布式训练与计算硬件比较选型进阶0篇相关面经