真面经，好答案。面试之前，先来面栈。

Transformer 与注意力

本分类共 8 个专题 · 1061 道题

已筛选

共 67 道题

排序：

5229
Kimi Delta Attention 如何通过门控与 Delta 更新维护递归状态？
模型基础与推理Transformer 与注意力
原理机制
深入
暂无面经1 份题集
5230
DeepSeek Sparse Attention 如何用索引器选择位置并计算稀疏注意力？
模型基础与推理Transformer 与注意力
原理机制
深入
暂无面经2 份题集
5231
稀疏注意力的 IndexShare 如何跨层复用候选索引，有何收益与风险？
模型基础与推理Transformer 与注意力
原理机制
深入
暂无面经1 份题集
5232
QK-Clip 如何控制注意力 Logits，与 QK-Norm 有什么区别？
模型基础与推理Transformer 与注意力
原理机制
深入
暂无面经1 份题集
5427
实现结合因果约束与 Padding 的注意力掩码。
模型基础与推理Transformer 与注意力
代码题
进阶
暂无面经2 份题集
6014
Deformable Attention 如何用学习采样点组织多尺度视觉交互？
模型基础与推理Transformer 与注意力
原理机制
进阶
暂无面经2 份题集
6025
压缩稀疏注意力如何结合历史 KV 聚合、稀疏选择与局部窗口？
模型基础与推理Transformer 与注意力
原理机制
深入
暂无面经1 份题集
6063
实现 ALiBi 的多头位置偏置并接入注意力。
模型基础与推理Transformer 与注意力
代码题
进阶
暂无面经1 份题集
6064
实现 GLU 或 SwiGLU 的门控逐元素组合。
模型基础与推理Transformer 与注意力
代码题
进阶
暂无面经3 份题集
6065
实现带 gate、up、down 投影的门控前馈网络。
模型基础与推理Transformer 与注意力
代码题
进阶
暂无面经1 份题集