返回全部题目← 上一题63 / 128下一题 →题库/模型基础与推理/Q-4864原始 Transformer 为什么将输入词嵌入乘以模型维度的平方根?知识专题:模型架构与表示题目类型:原理机制技术难度:进阶收录题集:2 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi(新窗口打开)Qwen千问(新窗口打开)OpenAIChatGPT(新窗口打开)自动带入当前题目本题目录收录题集相关题目收录题集2 份深度网络架构Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →为何在获取输入词向量之后需要对矩阵乘以 embedding size 的开方?意义是什么?模型架构与注意力Firefly · llm_interview_note · 1 条原题查看题集 →为何在获取输入词向量之后需要对矩阵乘以embedding size的开方?意义是什么?相关题目4 题0208Chat Template、System Prompt 和训练形成的行为先验有什么关系?同一知识专题题目类型:比较选型技术难度:进阶相关面经:1 篇0279MoE 负载均衡损失与专家路由塌缩有什么关系,如何稳定路由?同一知识专题题目类型:故障排查技术难度:进阶相关面经:1 篇0511熟悉哪些大模型,它们的结构有何不同?同一知识专题题目类型:比较选型技术难度:进阶相关面经:6 篇0571Qwen3 与 BGE 编码模型原理是什么,Qwen3 编码模型如何训练?同一知识专题题目类型:原理机制技术难度:进阶相关面经:2 篇♥♥♥♥♥← 上一题已到最后一题← 上一题BERT 的非线性来自哪些计算环节?下一题 →GELU 激活函数的计算公式是什么?