Transformer 与注意力

本分类共 8 个专题 · 1155 道题

已筛选

共 71 道题

排序:

3647
Attention 为什么除以根号 d_k,不这样缩放还有什么替代方案?
模型基础与推理Transformer 与注意力
原理机制
进阶
2898
多轮 Agent 对话中 Attention 有哪些局限?
模型基础与推理Transformer 与注意力
原理机制
进阶
4297
常见 Attention 变体有哪些,Linear Attention 的基本思路是什么?
模型基础与推理Transformer 与注意力
原理机制
进阶
4737
手写 Self-Attention。
模型基础与推理Transformer 与注意力
代码题
进阶
4241
Transformer 从接收用户输入到生成输出会经历哪些主要步骤?
模型基础与推理Transformer 与注意力
原理机制面前必看
基础
4595
Transformer 中逐位置前馈网络 FFN 有什么作用?
模型基础与推理Transformer 与注意力
原理机制已有答案
基础
4697
线性注意力的基本原理是什么,它有哪些适用边界?
模型基础与推理Transformer 与注意力
原理机制
深入
4801
Encoder-only、Decoder-only 与 Encoder-Decoder 架构有什么区别?
模型基础与推理Transformer 与注意力
比较选型
进阶
1748
Cross-Attention 中 Q、K、V 分别来自哪里?
模型基础与推理Transformer 与注意力
原理机制
基础
2964
Transformer Decoder 的结构和机制是什么?
模型基础与推理Transformer 与注意力
原理机制
进阶