数学基础高频考点

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

54 道原题
  1. 梯度为什么指向函数上升最快方向?

    原题
  2. Jacobian 和 Hessian 在深度学习中分别出现在哪里?

    原题
  3. 链式法则如何支撑反向传播和自动微分?

    原题
  4. 泰勒展开和极限思想在优化与大模型训练中有什么作用?

    原题
  5. Sigmoid、Tanh、ReLU、GELU、SiLU 的导数和梯度问题是什么?

    原题
  6. Softmax + Cross Entropy 为什么梯度形式很简洁?

    原题
  7. LayerNorm、RMSNorm 的数学作用是什么?

    原题
  8. 随机变量、概率分布、PMF、PDF 分别是什么?

    原题
  9. 联合概率、边缘概率、条件概率、贝叶斯公式有什么联系?

    原题
  10. 独立性和条件独立性有什么区别?

    原题