深度学习基础汇编
【残差连接与层归一化顺序】残差连接与层归一化顺序:a(x)+LayerNorm(x)还是LayerNorm(x+a(x))?为什么这样选择? 「蚂蚁集团」
原题原题给出的式子不完整,未明确 Pre/Post 等归一化约定。
【残差连接初始化】对于残差连接层的权重的初始化有了解吗? 「字节跳动」
原题【求和操作】深度学习中哪里会遇到对第一个axis求和? 「阿里通义」
原题【温度参数】温度参数的原理; 「京东」
原题【神经网络层算子】每一层都有什么算子? 「百度」
原题【计算图】计算图的构建,动态图与计算图。 「百度」
原题【训练与推理区别】训练和推理的区别? 「百度」
原题【训练过程】算法模型训练的过程? 「阿里巴巴」
原题【通道注意力机制实现】你提到里面有一个自动的通道注意力机制,怎么实现的呢? 「字节跳动」
原题来源只明确通道注意力,未指定 SENet、ECA 或其他权重生成结构。
【门控机制目的】门控机制是为了解决什么提出的? 「阿里通义」
原题
暂无题目