深度学习基础汇编
【Transformer整体结构】请详细描述Transformer的结构，包括其整体架构、各个组件（如自注意力机制、多头注意力、位置编码、前馈神经网络、层归一化、残差连接等）及其作用，并说明编码器和解码器的组成与工作流程。 「京东、拼多多、美团、腾讯、蚂蚁集团」
原题【Transformer组件心得】Transformer的作用，解码器的mask，多头注意力，自我注意力机制，你最有心得的是哪部分？ 「阿里巴巴」
原题【位置编码】为什么要用正弦余弦位置编码（sin_cos）？ 「阿里巴巴」
原题【位置编码必要性】Transformer为什么需要位置编码？输入的序列本来就有先后顺序，为什么还要加position embedding？这对模型理解相对位置有什么帮助？讲一下Transformer以及位置编码。 「京东、字节跳动、拼多多、百度」
原题【位置编码比较】比较常用的位置编码的方式？ 「腾讯」
原题【多头注意力动机】能否解释Transformer使用多头注意力机制的动机？ 「腾讯混元」
原题【核心机制与模块】Transformer的核心机制和核心模块是什么？ 「京东、字节跳动」
原题【残差连接】Transformer的残差作用在哪里? 「蚂蚁集团」
原题【注意力与MLP计算量比较】相较于MLP、注意力的计算量如何 「百度」
原题【注意力复杂度】自注意力机制的计算复杂度是多少？请给出其公式并说明复杂度。 「字节跳动」
原题
暂无题目