返回全部题目← 上一题70 / 71下一题 →题库/模型基础与推理/Q-7708DeepSeek 与 Qwen 采用哪些注意力方案，各有什么特点？知识专题：Transformer 与注意力题目类型：原理机制技术难度：进阶相关面经：1 篇暂无参考答案未标记未标记待复习已掌握收藏问AI选择 AI 平台KimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）自动带入当前题目反馈（在 GitHub 新标签页打开）本题目录相关面经相关题目相关面经1 篇华为大模型算法工程师2026-10-25一面查看原面经 →除MHA、MQA、GQA之外，你还了解哪些注意力变体，DeepSeek、Qwen采用的注意力方案有什么特点相关题目4 题0036Transformer 中的 Attention 如何计算？同一知识专题题目类型：原理机制技术难度：进阶相关面经：20 篇0268Self-Attention 为何利于并行训练，与 RNN 相比有哪些局限？同一知识专题题目类型：比较选型技术难度：进阶相关面经：2 篇0572Self-Attention 为什么需要 Scaling？同一知识专题题目类型：原理机制技术难度：进阶相关面经：3 篇0575手写 Multi-Head Attention。同一知识专题题目类型：代码题技术难度：进阶相关面经：6 篇♥♥♥♥♥← 上一题已到最后一题← 上一题Transformer 的计算与空间复杂度如何分析，有哪些优化方向？下一题 →Transformer 的 FFN 内部结构是什么，有哪些替代设计？
