全部题目

4854

Word2Vec 相比早期词嵌入学习方法有哪些改进？

模型基础与推理机器学习与推荐系统

比较选型

进阶

暂无面经 2 份题集

4855

从 Word Embedding 到 BERT，NLP 预训练方法如何演进？

模型基础与推理模型架构与表示

概念解释

基础

暂无面经 4 份题集

4856

Attention 相比传统 Seq2Seq 的固定向量编码解决了什么问题？

模型基础与推理Transformer 与注意力

比较选型

基础

暂无面经 2 份题集

4857

Attention 中如何屏蔽 Padding 位置，为什么应在 Softmax 前处理？

模型基础与推理Transformer 与注意力

原理机制

基础

暂无面经 6 份题集

4858

Attention 与全连接层的计算方式有什么区别？

模型基础与推理Transformer 与注意力

比较选型

进阶

暂无面经 1 份题集

4859

BERT 使用字粒度与词粒度表示各有什么优缺点？

模型基础与推理Tokenizer 与位置编码

比较选型

进阶

暂无面经 2 份题集

4860

BERT 为什么选择遮蔽约 15% 的 Token，这个比例能否调整？

模型训练与对齐预训练、续训与 SFT

原理机制

进阶

暂无面经 1 份题集

4861

BERT 为什么在输入前加入 [CLS] Token，如何用于下游任务？

模型基础与推理模型架构与表示

原理机制

基础

暂无面经 2 份题集

4862

BERT 的非线性来自哪些计算环节？

模型基础与推理模型架构与表示

原理机制

进阶

暂无面经 1 份题集

4863

点积注意力与加性注意力有什么区别，为什么 Transformer 采用点积？

模型基础与推理Transformer 与注意力

比较选型

进阶

暂无面经 3 份题集