深度学习核心概念
什么是深度学习？它与人工智能、机器学习的关系是什么？
原题深度学习的"深度"具体指的是什么？
原题多深的网络才算"深度学习"？
原题深度学习与传统机器学习的本质区别是什么？
原题什么是表示学习（Representation Learning），深度学习如何实现它？
原题什么是"好的表示"？
原题深度学习的核心假设是什么？为什么分层特征提取是有效的？
原题深度学习有哪些核心特征，与浅层模型相比优势体现在哪里？
原题深度学习需要哪些基本条件才能发挥优势（数据、算力、算法）？
原题深度学习的局限性和挑战有哪些？
原题深度学习与统计学习、概率模型的联系与区别是什么？
原题什么是端到端学习（End-to-End Learning），它的优缺点是什么？
原题端到端 vs 模块化：何时选择？
原题深度学习为什么在大数据时代取得突破，小数据场景下如何应对？
原题深度学习模型的可解释性问题是什么，当前有哪些主流解决思路？
原题深度学习在不同数据模态（图像、文本、音频、图）上的应用有何异同？
原题如何客观评估一个深度学习模型的好坏？评估指标有哪些？
原题大模型时代深度学习的定义是否在发生变化？基础模型（Foundation Model）代表了什么趋势？
原题深度学习的发展历程可以分为哪几个主要阶段？
原题感知机（Perceptron）的诞生背景是什么，它奠定了什么基础？
原题第一次"AI冬天"是如何产生的，Minsky的批判核心是什么？
原题反向传播算法的提出（1986年）为什么是深度学习发展的关键转折点？
原题为什么1986年才产生重大影响？
原题第二次"AI冬天"的主要原因是什么？为什么神经网络再度沉寂？
原题为什么神经网络研究得以延续？
原题Hinton等人在2006年提出的"深度信念网络"（DBN）有什么历史意义？
原题AlexNet（2012年）为何被视为深度学习的"奇点时刻"？它带来了哪些创新？
原题GPU加速为深度学习的爆发提供了什么支撑？CUDA的作用是什么？
原题CUDA是什么？
原题从LeNet到ResNet，CNN架构演进的核心脉络是什么？
原题为什么ResNet可以很深？
原题注意力机制（Attention）与Transformer（2017年）的提出对深度学习格局有什么影响？
原题BERT和GPT系列分别代表了哪两种预训练范式，各自的核心思想是什么？
原题大规模预训练模型（GPT-3、GPT-4等）的出现标志着深度学习进入了什么新阶段？
原题生成式AI（AIGC）浪潮的技术基础是什么？扩散模型（Diffusion Model）如何崛起？
原题生物神经元与人工神经元的类比关系是什么？
原题人工神经元的数学模型是什么？各部分的含义是什么？
原题什么是感知机（Perceptron）？其结构和工作原理是什么？
原题感知机的学习规则（Perceptron Learning Rule）是如何推导的？
原题感知机为什么无法解决异或（XOR）问题？这说明了什么本质局限？
原题什么是线性可分性？感知机的收敛性定理说明了什么？
原题多层感知机（MLP）是如何克服单层感知机局限性的？
原题神经网络中偏置项（Bias）的作用是什么？去掉偏置会有什么影响？
原题什么是通用近似定理（Universal Approximation Theorem）？它的意义与局限是什么？
原题神经网络的宽度与深度对模型能力有什么不同的影响？
原题神经网络中的参数初始化为什么重要？全零初始化会导致什么问题？
原题什么是对称性破坏（Symmetry Breaking）？随机初始化如何解决这个问题？
原题前馈神经网络（FNN）的基本结构是什么？各层的作用分别是什么？
原题前馈神经网络的前向传播过程是如何计算的？请用数学公式描述。
原题全连接层（Fully Connected Layer）的参数数量如何计算？参数过多会带来什么问题？
原题网络深度与宽度如何影响模型的表达能力和训练难度？
原题什么是过拟合（Overfitting）和欠拟合（Underfitting）？如何诊断？
原题正则化（Regularization）的本质是什么？L1、L2正则化各有什么特点？
原题Dropout正则化的原理是什么？训练和推理阶段行为有何不同？
原题批归一化（Batch Normalization）解决了什么问题？其数学原理是什么？
原题前馈神经网络的损失函数如何选择？回归与分类任务的常用损失函数有哪些？
原题交叉熵损失与均方误差损失的本质区别是什么？各自适用什么场景？
原题神经网络的训练过程包含哪些核心步骤？Mini-batch SGD的优势是什么？
原题学习率（Learning Rate）对训练的影响是什么？如何选取合适的学习率？
原题什么是学习率调度（Learning Rate Scheduling）？常见策略有哪些？
原题神经网络训练的计算图（Computation Graph）是什么？它对自动微分有什么作用？
原题为什么深层网络比浅层网络更难训练？梯度消失和梯度爆炸分别是什么？
原题反向传播（Backpropagation）算法的本质是什么？它解决了什么问题？
原题反向传播算法的完整推导过程是什么？请从链式法则出发进行说明。
原题链式法则（Chain Rule）在反向传播中是如何应用的？
原题反向传播算法中，梯度是如何从输出层逐层传递到输入层的？
原题反向传播中，权重梯度和偏置梯度的计算公式分别是什么？
原题什么是自动微分（Automatic Differentiation）？与符号微分、数值微分有何区别？
原题正向模式自动微分与反向模式自动微分的区别是什么？神经网络为何通常采用反向模式？
原题在PyTorch或TensorFlow中，反向传播的底层实现机制是什么？
原题梯度消失（Vanishing Gradient）问题的根本原因是什么？如何从数学上解释？
原题梯度爆炸（Exploding Gradient）问题如何检测，梯度裁剪（Gradient Clipping）的原理是什么？
原题批大小（Batch Size）对反向传播和梯度更新有什么影响？
原题梯度下降的变体有哪些（SGD、Momentum、RMSProp、Adam）？各自的优缺点是什么？
原题Adam优化器的原理是什么？为什么它在大多数深度学习任务中表现优异？
原题二阶优化方法（如牛顿法）为什么在深度学习中很少使用？
原题损失函数曲面（Loss Landscape）的特性是什么？鞍点、局部最小值对训练有什么影响？
原题什么是梯度检验（Gradient Checking）？如何验证反向传播实现的正确性？
原题反向传播在计算图上是如何处理分支（多路输出）节点的梯度累加的？
原题激活函数在神经网络中的核心作用是什么？没有激活函数会发生什么？
原题为什么激活函数必须是非线性的？线性激活函数有什么本质缺陷？
原题一个好的激活函数应该具备哪些性质？
原题激活函数的饱和性（Saturation）是什么？饱和区域对梯度有什么影响？
原题什么是激活函数的梯度消失问题？哪些激活函数容易引发梯度消失？
原题激活函数的输出分布对后续层的训练有什么影响？零中心化（Zero-Centered）为何重要？
原题激活函数的计算效率对工业部署有什么影响？如何权衡性能与效率？
原题Sigmoid函数的数学表达式是什么？它的输出范围和梯度特性是什么？
原题Sigmoid函数为什么会导致梯度消失？从数学上如何推导？
原题为什么初始化不好会加剧梯度消失？
原题Sigmoid函数的非零中心问题是什么？为什么会导致梯度更新低效？
原题为什么BatchNorm可以缓解这个问题？
原题Sigmoid在深度网络中是否已被完全淘汰？目前仍适用于哪些场景？
原题为什么用Sigmoid？
原题Tanh函数与Sigmoid函数的关系是什么？Tanh解决了Sigmoid的哪些问题？
原题Tanh函数仍然存在什么问题？在什么场景下优于Sigmoid？
原题ReLU函数的数学定义是什么？它为什么能有效缓解梯度消失问题？
原题ReLU的计算优势体现在哪里？为什么在CNN和MLP中被广泛采用？
原题什么是"神经元死亡"（Dying ReLU）问题？它是如何产生的，如何解决？
原题ReLU的输出非零中心对梯度更新有什么影响？
原题Leaky ReLU的提出动机是什么？负半轴的斜率参数如何设置？
原题PReLU与Leaky ReLU的区别是什么？PReLU的斜率参数是如何学习的？
原题ELU（Exponential Linear Unit）的设计思路是什么？与ReLU系列相比有何优势？
原题ELU的超参数α如何影响其行为？ELU的主要缺点是什么？
原题SELU（Scaled ELU）是什么？它如何实现自归一化（Self-Normalizing）特性？
原题对比Sigmoid、Tanh、ReLU、Leaky ReLU、ELU，在实际选型中如何决策？
原题GELU（Gaussian Error Linear Unit）的数学定义是什么？其设计直觉来自哪里？
原题GELU为什么在Transformer和大语言模型中被广泛采用？与ReLU相比有何优势？
原题GELU的近似计算公式是什么？在工程实现中为什么需要近似？
原题Swish（SiLU）激活函数的数学表达式是什么？它是如何被发现的？
原题Swish函数的非单调性有什么意义？为什么非单调激活函数可能表现更好？
原题Swish与GELU在数学形式上有何相似之处？二者在实际应用中有何差异？
原题SwiGLU是什么？为什么LLaMA、DeepSeek等大模型选择SwiGLU作为FFN激活函数？
原题Softmax函数的数学定义是什么？它在神经网络中扮演什么角色？
原题Softmax为什么能将任意实数向量转化为概率分布？其数学性质是什么？
原题为什么用指数函数？
原题Softmax的数值稳定性问题是什么？工程实现中如何避免上溢和下溢？
原题
暂无题目