编码题专题汇编
【大语言模型、伪代码、模型架构|L4】手撕DeepSeek V3的结构伪代码 「字节跳动」
原题【Transformer、Attention、LoRA、MHA|L4】实现一个MultiHeadAttention,要求里面的Q、K、V的线性变换层引入LORA技术。 「腾讯」
原题【生成模型、VQ-VAE、伪代码|L4】手撕VQVAE伪码。 「阿里巴巴」
原题【ResNet、PyTorch|L4】手撕torch系列:ResNet(深度残差网络)原理及代码实现(基于Pytorch)。 「腾讯」
原题【损失函数、Hinge Loss|L1】讲一下hinge loss,写出公式 「蚂蚁集团」
原题本条要求讲解并写公式,未要求实现完整训练代码。
【L1、L2、正则化|L1】介绍一下L1和L2正则化,写一下公式。 「阿里巴巴」
原题【损失函数、逻辑回归|L1】写一下逻辑回归的损失函数 「拼多多」
原题损失函数、交叉熵
写出交叉熵损失函数公式。
交叉熵损失函数写一下
交叉熵的代码手写。
原题完整原题
【损失函数、交叉熵|L2】写出交叉熵损失函数公式。;另一场次补充:交叉熵损失函数写一下;另一场次补充:交叉熵的代码手写。 「字节跳动、腾讯混元、阿里巴巴」
【BatchNorm、归一化|L3】手撕:batch累积的均值和方差(类似batchnorm) 「字节跳动」
原题原题未明确“batch 累积”指总体累计还是移动统计,也未说明方差口径。
【深度学习基础、归一化与激活|L3】写一下DeepNorm代码实现 「腾讯混元」
原题
暂无题目