真面经，好答案。面试之前，先来面栈。

Transformer 与注意力

本分类共 8 个专题 · 1155 道题

已筛选

共 71 道题

排序：

0036
Transformer 中的 Attention 如何计算？
模型基础与推理Transformer 与注意力
原理机制已有答案
进阶
20 篇面经8 个题集来源
0625
Transformer 的整体原理是什么？
模型基础与推理Transformer 与注意力
原理机制已有答案
进阶
13 篇面经7 个题集来源
2781
多头注意力机制如何工作？
模型基础与推理Transformer 与注意力
原理机制
进阶
10 篇面经3 个题集来源
0575
手写 Multi-Head Attention。
模型基础与推理Transformer 与注意力
代码题已有答案
进阶
6 篇面经5 个题集来源
3657
GQA 的原理是什么，如何在效果、速度和显存之间折中？
模型基础与推理Transformer 与注意力
原理机制已有答案
进阶
3 篇面经7 个题集来源
2965
为什么使用多头注意力而不换成单头？
模型基础与推理Transformer 与注意力
比较选型
基础
5 篇面经4 个题集来源
0268
Self-Attention 为何利于并行训练，与 RNN 相比有哪些局限？
模型基础与推理Transformer 与注意力
比较选型已有答案
进阶
2 篇面经6 个题集来源
0572
Self-Attention 为什么需要 Scaling？
模型基础与推理Transformer 与注意力
原理机制已有答案
进阶
3 篇面经5 个题集来源
0666
Transformer 有哪些优劣势，与其他架构相比如何？
模型基础与推理Transformer 与注意力
比较选型已有答案
进阶
4 篇面经4 个题集来源
3646
Attention 的 Q、K、V 如何由输入变换得到？
模型基础与推理Transformer 与注意力
原理机制
基础
3 篇面经5 个题集来源