NLP 模型与文本表示
CNN 有什么好处？
原题CNN 有什么不足？
原题卷积层输出 size？
原题LSTM 网络结构？
原题如何解决 RNN 中的梯度消失或梯度爆炸问题？
原题假设输入维度为 m，输出为 n，求 GRU 参数？
原题m、n 分别指输入维度和隐藏输出维度；题干未指定偏置约定。
LSTM 和 GRU 的区别？
原题Attention 机制
原题自注意力中为何要缩放？
原题Transformer 中为什么用 Add 而不是 Concat？
原题原题中的 Add 承接正文 Embedding 相加的语境。
简单介绍下ELMO
原题ELMO的缺点
原题简单介绍下GPT
原题此处 GPT 来自早期预训练模型的演进语境。
GPT的缺点
原题此处延续早期 GPT 的单向预训练语境。
简单介绍下BERT
原题BERT缺点
原题正文将本题限定为词元粒度与完整词、短语或实体语义的关系。
ERNIE对BERT进行了哪些优化？
原题来源同时讨论早期 ERNIE 的词或实体遮蔽与 ERNIE 2.0 的多任务预训练。
介绍一下Word2Vec模型。
原题Word2Vec模型为什么要定义两套词向量？
原题Hierarchial Softmax 和 Negative Sampling对比
原题HS为什么用霍夫曼树而不用其他二叉树？
原题Word2Vec模型为什么要进行负采样？
原题负采样为什么要用词频来做采样概率？
原题One-hot模型与Word2Vec模型比较？
原题Word2Vec模型在NNLM模型上做了哪些改进？
原题Word2Vec与LSA对比？
原题Word2Vec的缺点？
原题怎么从语言模型理解词向量？怎么理解分布式假设？
原题
暂无题目