深度学习精华·训练与优化
数据标注常见类型及适用任务有哪些？标注质量如何评估？
原题什么是噪声标签（Noisy Labels）？深度学习场景下有哪些成熟的处理方案？
原题常用的数据增强方式有哪些？CV/NLP/多模态生成任务分别有哪些专属方法？
原题深度学习训练前的数据清洗有哪些核心方法？核心处理逻辑是什么？
原题什么是数据长尾分布？可以从哪些层面解决数据长尾问题？
原题什么是正则化？它从原理上为什么能提升模型泛化能力？显式正则化和隐式正则化有什么区别？
原题介绍一下早停（EarlyStopping）的定义、原理、作用及实操注意事项
原题介绍一下 Dropout 及其核心变种（DropConnect、DropBlock、DropPath）的原理与适用场景
原题介绍一下 L1 正则、L2 正则，为什么 L1 能产生稀疏性，L2 不会？
原题标签平滑（Label Smoothing）的原理及作用？在大模型/生成模型训练中有什么注意事项？
原题权重衰减（Weight Decay）与 L2 正则的关系是什么？为什么 Adam 优化器中二者不等价？AdamW 中是如何实现的？
原题不同正则化方法分别适用于什么场景？实际训练中如何选型与组合使用？
原题学习率 warmup 的核心目的是什么？常用的 warmup 方式有哪些？如何设计 warmup 策略？
原题工业界常用的学习率组合策略是什么？大模型训练中为什么普遍采用「线性 warmup + 余弦退火」？
原题有哪些常用的学习率调优方法？LR Finder 的核心原理是什么？
原题优化器的本质原理是什么？简述从 SGD 到 AdamW 的核心发展脉络，各阶段分别解决了什么问题？
原题SGD、Adam、AdamW 三者各有什么优缺点？为什么大模型预训练与微调几乎都用 AdamW？深度学习场景下如何选型？
原题目前 AIGC 场景（大模型、扩散模型）常用的优化器有哪些？选型的核心依据是什么？
原题模型训练中训练集、验证集、测试集的作用分别是什么？有哪些划分原则与常见的落地方式？
原题AIGC 场景（大模型微调、文生图扩散模型）的数据集划分和传统判别任务有什么区别？有哪些特殊注意事项？
原题什么是 Batch Size？Batch Size 过大/过小分别有什么影响？实际训练中如何选型？
原题AIGC 场景（大模型微调、扩散模型训练）下，Batch Size 的选型和传统场景有什么核心区别？有哪些特殊约束？
原题深度学习中模型参数与超参数有什么本质区别？AIGC 大模型训练中常见的核心超参数有哪些？
原题超参数调优的基本流程是什么？调优过程中有哪些核心原则？
原题常用的超参数调优方法有哪些（网格搜索/随机搜索/贝叶斯优化）？各自的优缺点与适用场景是什么？
原题AIGC 大模型/扩散模型的超参数调优和传统小模型有什么核心区别？有哪些专属的调优原则？
原题梯度消失、梯度爆炸与梯度震荡的核心区别是什么？分别是什么原因导致的？有哪些解决方法？
原题梯度裁剪（Gradient Clipping）为何能提升训练稳定性？阈值如何确定？大模型训练中有什么注意事项？
原题梯度累积（Gradient Accumulation）的核心原理是什么？和直接增大 Batch Size 有什么本质区别？有哪些适用场景？
原题混合精度训练的核心原理是什么？FP16 和 BF16 如何选择？为什么大模型训练普遍用 BF16？
原题什么是权重平均（EMA/SWA）？它的原理是什么？为什么能提升模型泛化能力与鲁棒性？
原题训练中出现 NaN/Inf 的常见原因有哪些？有什么系统的排查与解决方法？
原题常见的权重初始化方法有哪些（Xavier/He）？原理是什么？为什么初始化对训练如此重要？
原题BatchNorm/LayerNorm/GroupNorm/InstanceNorm 的原理与区别是什么？为什么 Transformer 用 LayerNorm 而不用 BatchNorm？
原题常见的激活函数有哪些（ReLU/GELU/SiLU/SwiGLU）？各自的原理与适用场景是什么？为什么大模型普遍用 GELU/SiLU？
原题大模型分布式训练的并行策略有哪些（数据并行/模型并行/管道并行/ZeRO/FSDP）？各自原理与适用场景是什么？
原题什么是迁移学习？它的核心假设是什么？常见的迁移学习范式有哪些？
原题预训练 + 微调范式的核心逻辑是什么？完整训练流程与关键注意事项有哪些？
原题对比学习的核心思想与基本原理是什么？它为什么能提升特征表示质量？在 AIGC 中有哪些应用？
原题样本不平衡会对模型训练造成哪些负面影响？从损失层面、训练层面分别有哪些解决方案？
原题什么是参数高效微调（PEFT）？LoRA/QLoRA/Adapter/Prefix Tuning 的原理与区别是什么？
原题模型评估的核心目标是什么？常用的模型评估方法有哪些？
原题什么是交叉验证？为什么要做交叉验证？常见的交叉验证方式有哪些？深度学习场景使用有什么注意事项？
原题介绍一下精确率、召回率、F1 分数的定义与各自的适用场景？
原题什么是 ROC 曲线与 AUC 值？它和 PR 曲线的核心差异及适用场景是什么？类别不平衡场景为什么优先用 PR 曲线？
原题什么是泛化误差？如何用偏差-方差的权衡关系指导模型调优？
原题AIGC 生成模型（大语言模型、文生图扩散模型）的评估和传统判别模型有什么核心区别？
原题
暂无题目