深度网络架构

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

164 道原题
  1. 请简要介绍 Transformer 模型以及它与传统的神经网络架构(如 RNN 和 LSTM)之间的主要区别?

    原题
  2. Transformer 模型中的自注意力机制是如何工作的?可以解释一下“缩放点积注意力”吗?

    原题
  3. 在 Transformer 中,位置编码的作用是什么?为什么要引入位置编码?

    原题
  4. 请解释 Transformer 的多头注意力是如何实现并同时处理不同的信息子空间的?

    原题
  5. 在 Transformer 模型中,层归一化(Layer Normalization)和残差连接(Residual Connection)的目的是什么?

    原题
  6. 为什么 Transformer 模型在处理序列数据方面比传统的 RNN 和 LSTM 模型有效率得多?

    原题
  7. 可以描述一下在 Transformer 模型训练中常用的优化方法和训练技巧吗?

    原题
  8. 请讨论一下 Transformer 模型用于序列生成任务(如机器翻译、文本生成)时,输出序列是如何生成的?

    原题
  9. 在深度学习中,过拟合是一个常见问题。在实际工作中,你是如何防止 Transformer 模型过拟合的?

    原题
  10. 使用 Transformer 模型时可能会遇到的内存和计算问题有哪些?又是如何解决的?

    原题