NLP 模型与文本表示

题集来源:Datawhale(datawhalechina)收录项目:daily-interview查看原题集

题目目录

28 道原题
  1. 简单介绍下ELMO

    原题
  2. ELMO的缺点

    原题
  3. 简单介绍下GPT

    原题

    此处 GPT 来自早期预训练模型的演进语境。

  4. GPT的缺点

    原题

    此处延续早期 GPT 的单向预训练语境。

  5. 简单介绍下BERT

    原题
  6. BERT缺点

    原题

    正文将本题限定为词元粒度与完整词、短语或实体语义的关系。

  7. ERNIE对BERT进行了哪些优化?

    原题

    来源同时讨论早期 ERNIE 的词或实体遮蔽与 ERNIE 2.0 的多任务预训练。

  8. 介绍一下Word2Vec模型。

    原题
  9. Word2Vec模型为什么要定义两套词向量?

    原题
  10. Hierarchial Softmax 和 Negative Sampling对比

    原题