数学公式推导高频考点
Softmax + Cross Entropy 的梯度如何推导？
原题Sigmoid + Binary Cross Entropy 的梯度如何推导？
原题MSE 为什么对应高斯噪声假设？
原题面试追问：为什么 MSE 对异常值敏感？
原题MAE 为什么对应 Laplace 噪声假设？
原题LayerNorm 和 RMSNorm 的核心反向传播直觉是什么？
原题最大似然估计为什么等价于最小化负对数似然？
原题Cross Entropy、KL 散度和最大似然之间有什么关系？
原题KL 散度非负性如何证明？
原题Jensen 不等式在机器学习推导中如何使用？
原题VAE 的 ELBO 如何推导？
原题Attention 为什么要除以 $\sqrt{d_k}$？
原题RoPE 为什么能表达相对位置信息？
原题KV Cache 为什么能降低自回归推理计算？
原题FlashAttention 的 Online Softmax 如何保证精确？
原题DDPM 的 $q(x_t|x_0)$ 一步采样公式如何推导？
原题DDPM 的训练目标为什么可以化简为预测噪声 MSE？
原题DDIM 为什么可以做确定性采样？
原题Score、SDE、ODE 三者如何互相联系？
原题Flow Matching 的速度场目标如何理解？
原题DPO Loss 如何从 KL 约束优化目标推导？
原题PPO clipped objective 的数学意义是什么？
原题GRPO 的组内相对优势如何计算？
原题LoRA 的参数量和计算量如何推导？
原题量化 scale 和 zero-point 如何计算？
原题知识蒸馏中的温度系数为什么常配 $T^2$？
原题
暂无题目