深度学习基础汇编
【Batch大小影响】大batch和小batch有什么区别？请分析Batch大小对训练的影响。 「字节跳动」
原题【与蒸馏区别】模型蒸馏（model distillation）与训练稳定性有何区别？请解释与蒸馏的区别。 「腾讯」
原题【参数初始化重要性】为什么参数初始化方式不一样？参数初始化为什么重要？请解释参数初始化的重要性。 「京东、字节跳动」
原题【学习率不衰减后果】如果不衰减学习率会有什么后果？请解释学习率不衰减的后果。 「字节跳动」
原题【学习率大小界定】学习率多小算小？请界定学习率大小的标准。 「蚂蚁集团」
原题【学习率调整】此时学习率怎么调整？请解释学习率调整的方法。 「阿里巴巴」
原题“此时”没有训练曲线或事件，仅覆盖一般学习率调整方法，未给具体决策。
【权重大小影响】权重过大或过小分别会导致什么现象？请分析权重大小的影响。 「字节跳动」
原题【梯度消失与梯度爆炸】梯度消失和梯度爆炸是什么？请解释其原因、根本原因、解决方案及缓解方法。 「京东、字节跳动、美团、阿里巴巴、阿里通义」
原题【梯度裁剪必要性】不进行梯度裁剪（gradient clipping）会怎样？请解释梯度裁剪的必要性。 「腾讯」
原题【训练流程与损失函数参数】讲一下训练流程和损失函数各个参数含义？请解释训练流程与损失函数参数。 「蚂蚁集团」
原题来源未记录实际 loss 与参数名称。
暂无题目