真面经，好答案。面试之前，先来面栈。

训练框架、调参与排障

本分类共 9 个专题 · 704 道题

已筛选

共 136 道题

排序：

4688
大模型训练为什么需要 Warmup，应如何设置预热步数或比例？
模型训练与对齐训练框架、调参与排障
原理机制
基础
暂无面经5 份题集
4689
对比学习的 Batch Size 应如何选择，为什么并非越大越好？
模型训练与对齐训练框架、调参与排障
比较选型
进阶
暂无面经3 份题集
4706
FP16 训练发生数值溢出时，如何定位和处理？
模型训练与对齐训练框架、调参与排障
故障排查
进阶
暂无面经5 份题集
4707
训练样本长度不一致时，如何组织批次并减少无效计算？
模型训练与对齐训练框架、调参与排障
方案设计
进阶
暂无面经7 份题集
4709
继续预训练时 loss 上升是否正常，如何判断和排查？
模型训练与对齐训练框架、调参与排障
故障排查
进阶
暂无面经4 份题集
4865
Transformer 中 Dropout 通常如何设置，训练与推理时有什么区别？
模型训练与对齐训练框架、调参与排障
原理机制
进阶
暂无面经9 份题集
4879
如何检查 DeepSpeed 运行环境是否配置正确？
模型训练与对齐训练框架、调参与排障
操作实践
基础
暂无面经1 份题集
4887
常见分布式训练框架有哪些特点，应如何选型？
模型训练与对齐训练框架、调参与排障
比较选型
进阶
暂无面经4 份题集
4940
MoE 模型训练不稳定时，如何定位并改善？
模型训练与对齐训练框架、调参与排障
方案设计
进阶
暂无面经4 份题集
4942
PyTorch 的 DataParallel 与 DistributedDataParallel 有什么区别？
模型训练与对齐训练框架、调参与排障
比较选型
进阶
暂无面经3 份题集