编码题专题汇编
【推理加速、访存分析|L4】手算DeepSeek V3每次推理的访存量 「字节跳动」
原题【Transformer、伪代码|L2】写出伪代码 用abc 预测第四个token 告诉了我特征维度 头个数。 「京东」
原题【Transformer、Attention、手撕|L3】手撕Cross Attention 「百度」
原题【Transformer、Attention、MQA|L3】实现MQA。 「腾讯」
原题【Transformer、Attention、MHA|L3】自注意力,写完让直接在代码上改成mha; 「阿里通义」
原题【Transformer、MHA、Causal Mask、复杂度|L4】实现Causal mask的MHA,并说明计算复杂度 「美团」
原题【Transformer、Decoder、深度学习|L4】手撕decoder layer。 「阿里巴巴」
原题【Transformer、GQA、手撕、Attention、注意力机制、深度学习|L4】写一下GQA(Grouped Query Attention)的实现 「京东、字节跳动、百度、阿里巴巴」
原题【Transformer、Attention、Linear Attention|L4】手撕linear attention 「字节跳动」
原题【Transformer、Attention、MHA、MQA、GQA|L4】手撕:mha mqa gqa的兼容版 init里设置传参通义万相数据。 「阿里通义」
原题
暂无题目