深度网络架构

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

164 道原题
  1. Transformer模型中自注意力机制的数学表达式是什么?

    原题
  2. Transformer模型中的位置编码如何数学上表示?

    原题
  3. 如何数学上表达编码器和解码器中的前馈神经网络(FFN)?

    原题
  4. Transformer模型中Layer Normalization的数学原理是什么?

    原题
  5. Transformer模型训练中的梯度裁剪是如何数学定义的,它为何重要?

    原题
  6. 如何数学描述Transformer模型中的学习率预热策略?

    原题
  7. Transformer模型中的残差连接如何数学表达,它们解决的问题是什么?

    原题
  8. 解释Transformer模型输出序列中的概率分布是如何计算的?

    原题
  9. 如何数学地表达Transformer中的“缩放点积注意力”机制?

    原题
  10. Transformer模型中多头注意力机制的维度拆分是如何实现的?

    原题