深度学习基础汇编
【跷跷板现象解决】如何解决跷跷板现象？ 「腾讯」
原题【过早收敛处理】在大模型无论强化学习还是sft，希望模型可以过10w张图片学习分类问题，但5w个step就收敛了怎么办？ 「阿里巴巴」
原题【对比学习概述】对比学习是什么？它的作用是什么？ 「百度、蚂蚁集团」
原题【Embedding初始化】新embedding怎么初始化？ 「蚂蚁集团」
原题【对比学习损失函数】什么是InfoNCE Loss？请写出其公式并简述其原理。 「京东、百度、阿里巴巴」
原题【表示学习应用】经过encoder之后得到的latent emb有什么用？ 「字节跳动」
原题【表示学习物理意义】表示的物理意义是什么? 「阿里巴巴」
原题对比学习：
请介绍对比学习的思想、常见范式（对称结构如SimCLR、非对称结构如BYOL、SimSiam）及常用方法（如MoCo）。
请介绍对比学习的思想、
常见范式（对称结构如SimCLR、非对称结构如BYOL、SimSiam）及常用方法（如MoCo）。
解释对比损失函数（InfoNCE、Triplet Loss等）及类似对比学习的loss。
说明为什么需要正负样本及其构造方法，讨论负样本的重要性及负样本构造成本过高时的解决方案。
原题完整原题
【对比学习】对比学习：请介绍对比学习的思想、常见范式（对称结构如SimCLR、非对称结构如BYOL、SimSiam）及常用方法（如MoCo）。解释对比损失函数（InfoNCE、Triplet Loss等）及类似对比学习的loss。说明为什么需要正负样本及其构造方法，讨论负样本的重要性及负样本构造成本过高时的解决方案。 「京东、字节跳动、拼多多、腾讯混元、蚂蚁集团、阿里巴巴、阿里通义」
【音视频表示学习】请解释对比学习、自监督学习和迁移学习在音视频表示学习中的应用。对比学习：利用正负样本对学习判别性表示，如SimCLR、MoCo在视频帧或音频片段上的应用。自监督学习：通过设计预文本任务（如旋转预测、时序排序、掩码重建）从无标签音视频数据中学习特征，优势在于无需人工标注，可大规模预训练。迁移学习：将预训练模型（如ImageNet、AudioSet上训练的）迁移到下游音视频任务（如动作识别、语音情感分析），通过微调或特征提取适应新任务。 「字节跳动」
原题【GAN与VAE对比】相比于VAE，GAN有何优势？请从生成质量、训练稳定性、模式覆盖等方面进行比较。 「字节Seed」
原题
暂无题目