补充概念与机制问答

题集来源:Firefly(wdndev)收录项目:llm_interview_note查看原题集

题目目录

44 道原题
  1. 预训练数据集重复的影响是什么?

    原题
  2. 影响多次Epochs训练效果下降的原因是什么?

    原题
  3. 多样的训练目标可以减轻多Epoch下降吗?

    原题
  4. 关于self-attention为什么要使⽤(Q, K, V)三元组⽽不是其他形式

    原题
  5. Transformer代替seq2seq?

    原题

    该节比较早期循环编码器—解码器与 Transformer。

  6. word2vec到BERT改进了什么

    原题
  7. 使用BERT预训练模型为什么最多只能输入512个词?

    原题
  8. BERT如何区分一词多义?

    原题
  9. 为什么说ELMO是伪双向,BERT是真双向?

    原题
  10. BERT和Transformer Encoder的差异有哪些?

    原题