补充概念与机制问答
预训练数据集重复的影响是什么?
原题影响多次Epochs训练效果下降的原因是什么?
原题多样的训练目标可以减轻多Epoch下降吗?
原题关于self-attention为什么要使⽤(Q, K, V)三元组⽽不是其他形式
原题Transformer代替seq2seq?
原题该节比较早期循环编码器—解码器与 Transformer。
word2vec到BERT改进了什么
原题使用BERT预训练模型为什么最多只能输入512个词?
原题BERT如何区分一词多义?
原题为什么说ELMO是伪双向,BERT是真双向?
原题BERT和Transformer Encoder的差异有哪些?
原题
暂无题目