深度学习核心概念

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

116 道原题
  1. Swish与GELU在数学形式上有何相似之处?二者在实际应用中有何差异?

    原题
  2. SwiGLU是什么?为什么LLaMA、DeepSeek等大模型选择SwiGLU作为FFN激活函数?

    原题
  3. Softmax函数的数学定义是什么?它在神经网络中扮演什么角色?

    原题
  4. Softmax为什么能将任意实数向量转化为概率分布?其数学性质是什么?

    原题
  5. 为什么用指数函数?

    原题
  6. Softmax的数值稳定性问题是什么?工程实现中如何避免上溢和下溢?

    原题