NLP 模型与文本表示

题集来源:Datawhale(datawhalechina)收录项目:daily-interview查看原题集

题目目录

28 道原题
  1. CNN 有什么好处?

    原题
  2. CNN 有什么不足?

    原题
  3. 卷积层输出 size?

    原题
  4. LSTM 网络结构?

    原题
  5. 如何解决 RNN 中的梯度消失或梯度爆炸问题?

    原题
  6. 假设输入维度为 m,输出为 n,求 GRU 参数?

    原题

    m、n 分别指输入维度和隐藏输出维度;题干未指定偏置约定。

  7. LSTM 和 GRU 的区别?

    原题
  8. Attention 机制

    原题
  9. 自注意力中为何要缩放?

    原题
  10. Transformer 中为什么用 Add 而不是 Concat?

    原题

    原题中的 Add 承接正文 Embedding 相加的语境。