编码题专题汇编
手撕: infoNCE loss Cross Entropy 怎么算，为什么要normalize，温度系数的作用
实现InfoNCE Loss（CLIP）。
手撕BCE,InfoNCE损失。
写下 infoNCE loss？
原题完整原题
【BCE、InfoNCE、损失函数、Cross Entropy、对比学习、CLIP｜L3】手撕: infoNCE loss Cross Entropy 怎么算，为什么要normalize，温度系数的作用；另一场次补充：实现InfoNCE Loss（CLIP）。；另一场次补充：手撕BCE,InfoNCE损失。；另一场次补充：写下 infoNCE loss？ 「阿里巴巴、阿里通义」
【生成模型、损失函数、VAE｜L3】手撕VAE训练loss。 「腾讯混元」
原题【SwiGLU、激活函数｜L3】手写SwiGLU。 「字节跳动、美团」
原题介绍Softmax函数的使用及实现。
实现Softmax的CPU C++实现，模版
手撕题:online softmax
手撕softmax 函数怎么写？
手撕online softmax
手撕safe softmax
写出softmax公式。
原题完整原题
【softmax、online、Softmax、C++、模板、手撕、实现、深度学习基础、公式推导、数值稳定性｜L3】介绍Softmax函数的使用及实现。；另一场次补充：实现Softmax的CPU C++实现，模版；另一场次补充：手撕题:online softmax；另一场次补充：手撕softmax 函数怎么写？；另一场次补充：手撕online softmax；另一场次补充：手撕safe softmax；另一场次补充：写出softmax公式。 「字节跳动、百度、腾讯、蚂蚁集团、阿里巴巴」
【Adam、公式｜L1】写出adam计算公式。 「字节跳动」
原题【AdamW、优化器｜L3】手撕AdamW。 「腾讯」
原题【综合编程、神经网络、前向传播、反向传播、梯度｜L3】手撕代码第一道：forward与backward；第二道：price股票价格那道题/leetcode原题。；另一场次补充：手撕:两层神经网络，要求自己定义参数矩阵实现前向传播和反向传播 (自己求梯度)；另一场次补充：手撕两层神经网络，forward backward propagation。 「字节Seed、百度文心、阿里巴巴」
原题【反向传播、矩阵求导｜L3】code: 求偏导 y=f(C); C=AB; A输入、B参数、f激活函数、y输出，已知y对C的偏导是P，求y对B的偏导矩阵大小: A[m,k]; B[k,n]; C[m,n]; P[m,n] 「阿里巴巴」
原题【Adam、优化器、偏差校正｜L4】实现MyAdam优化器：MyAdam(params, lr=1e-3, betas=(0.9, 0.999), eps=1e-8)。方法：step()使用偏差校正后的矩更新参数，zero_grad()将所有参数梯度清零。约束：必须与torch.optim.Adam数值一致，偏差校正：m_hat=m/(1-beta1^t)。；另一场次补充：从零实现Adam优化器。 「字节跳动」
原题【反向传播、手动实现｜L4】手动实现反向传播。 「腾讯」
原题
暂无题目