激活函数

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

36 道原题
  1. 激活函数的作用,常用的激活函数有哪些

    原题
  2. 什么是GELU激活函数?

    原题
  3. 什么是SiLU激活函数?

    原题
  4. 什么是NewGELU激活函数?

    原题
  5. 介绍一下 GeLU 计算公式?

    原题
  6. 介绍一下 Swish 计算公式?

    原题
  7. 什么是激活函数?为什么要使用激活函数?

    原题
  8. ReLU激活函数的优点和缺点是什么?

    原题
  9. 什么是梯度消失和梯度爆炸问题?为什么Sigmoid和Tanh函数容易出现梯度消失问题?

    原题
  10. Leaky ReLU是如何解决ReLU的神经元死亡问题的?

    原题
  11. Softmax函数的输出有什么特点?它为什么常用于多分类问题的输出层?

    原题
  12. 什么是激活函数的“饱和区”?Sigmoid和Tanh函数的饱和区分别是什么?

    原题
  13. 什么是激活函数的“零中心化”?为什么零中心化很重要?

    原题
  14. 什么是Softplus激活函数?

    原题
  15. 为什么神经网络需要非线性激活函数

    原题
  16. ReLU激活函数相比Sigmoid的优势是什么

    原题
  17. 激活函数在神经网络正向传播中的具体流程是怎样的

    原题
  18. 没有激活函数的神经网络会有什么问题

    原题
  19. 激活函数的导数在反向传播中起到什么作用

    原题
  20. 不同层(输入层、隐藏层、输出层)选择激活函数的一般思路是什么

    原题
  21. 激活函数如何影响神经网络的表达能力和训练速度

    原题
  22. 分类任务和回归任务在选择激活函数时的主要区别是什么

    原题
  23. 深度神经网络中选择激活函数时,如何避免梯度消失问题

    原题
  24. 递归神经网络(RNN)为什么常选择Tanh或Sigmoid作为激活函数

    原题
  25. 卷积神经网络(CNN)的卷积层和全连接层在激活函数选择上有何不同

    原题
  26. 当训练数据量较小时,选择激活函数应注意什么

    原题
  27. 使用Batch Normalization时,对激活函数的选择有什么影响

    原题
  28. 多标签分类任务中,输出层通常选择什么激活函数,为什么

    原题
  29. 激活函数必须具备非线性性质的原因是什么

    原题
  30. 激活函数的可微性对神经网络训练有什么意义

    原题
  31. 什么是激活函数的非饱和性,它有什么优势

    原题
  32. 激活函数的稀疏激活性质对神经网络有什么好处

    原题
  33. 激活函数的导数有界性为什么能帮助避免梯度爆炸

    原题
  34. 零均值输出的激活函数有什么优势,举例说明

    原题
  35. 激活函数的计算高效性在实际工程中有什么重要性

    原题
  36. 激活函数的各项性质要求(如非线性、可微性、非饱和性)之间是否存在冲突,如何权衡

    原题