Transformer 与注意力

本分类共 8 个专题 · 1061 道题

已筛选

共 67 道题

排序:

6066
实现条件调制的 adaLN-Zero 模块。
模型基础与推理Transformer 与注意力
代码题
进阶
6067
实现带注意力、前馈与残差归一化的 Transformer Block。
模型基础与推理Transformer 与注意力
代码题
进阶
6086
实现两路注意力相减的 Differential Attention。
模型基础与推理Transformer 与注意力
代码题
进阶
6087
实现带低秩 KV 潜表示的 MLA。
模型基础与推理Transformer 与注意力
代码题
深入
6099
实现基于核特征和结合律的 Linear Attention。
模型基础与推理Transformer 与注意力
代码题
深入
6227
从零实现 Transformer Encoder。
模型基础与推理Transformer 与注意力
代码题
进阶
6232
实现 DeepNorm 的残差缩放与归一化结构。
模型基础与推理Transformer 与注意力
代码题
进阶