深度学习精华·训练与优化
什么是权重平均（EMA/SWA）？它的原理是什么？为什么能提升模型泛化能力与鲁棒性？
原题训练中出现 NaN/Inf 的常见原因有哪些？有什么系统的排查与解决方法？
原题常见的权重初始化方法有哪些（Xavier/He）？原理是什么？为什么初始化对训练如此重要？
原题BatchNorm/LayerNorm/GroupNorm/InstanceNorm 的原理与区别是什么？为什么 Transformer 用 LayerNorm 而不用 BatchNorm？
原题常见的激活函数有哪些（ReLU/GELU/SiLU/SwiGLU）？各自的原理与适用场景是什么？为什么大模型普遍用 GELU/SiLU？
原题大模型分布式训练的并行策略有哪些（数据并行/模型并行/管道并行/ZeRO/FSDP）？各自原理与适用场景是什么？
原题什么是迁移学习？它的核心假设是什么？常见的迁移学习范式有哪些？
原题预训练 + 微调范式的核心逻辑是什么？完整训练流程与关键注意事项有哪些？
原题对比学习的核心思想与基本原理是什么？它为什么能提升特征表示质量？在 AIGC 中有哪些应用？
原题样本不平衡会对模型训练造成哪些负面影响？从损失层面、训练层面分别有哪些解决方案？
原题
暂无题目