多模态与计算机视觉
【ViT与LLM损失函数】ViT和LLM的损失函数分别是什么？请分别说明ViT（如图像分类任务）和LLM（如语言建模）常用的损失函数。 「百度」
原题【ViT与原始Transformer区别】Vision Transformer和原始Transformer的区别是什么？请从架构、输入处理、位置编码、注意力机制等方面详细说明。 「百度」
原题【ViT图像分块与Token化】ViT是如何将图像切分为patch并转换为token序列的？请描述其图像处理机制。图像的token长度由什么参数来控制？具体说明patch大小、图像尺寸与token数量的关系。 「字节跳动、百度、阿里巴巴」
原题【ViT相比CNN优势】在图像任务中，ViT相比CNN-based模型的优势在哪里？请从全局感受野、自注意力机制、长距离依赖建模、可扩展性等方面分析。 「百度」
原题【BEVFormer注意力机制】BEVFormer的两个attention：包括spatial cross-attention和temporal self-attention。请详细解释其原理、作用及实现细节。 「腾讯」
原题【BEV时序融合】BEV特征时序融合：解释BEVFormer中如何通过temporal self-attention融合历史BEV特征，实现时序信息聚合。 「腾讯」
原题【DiT Transformer实现】DiT的Transformer实现：请详细说明DiT（Diffusion Transformer）中Transformer的结构，包括如何将图像patch作为输入，以及如何与扩散过程结合。 「蚂蚁集团」
原题【Patch Merging】Patch Merging：解释Swin Transformer中Patch Merging层的具体操作，包括如何将相邻patch合并，以及维度变化。 「蚂蚁集团」
原题【Swin Transformer原理与对比】Swin Transformer的原理是什么？它与ViT的区别有哪些？请详细对比两者的架构、窗口注意力、移动窗口、层级设计等。 「字节跳动、百度、美团」
原题【ViT [CLS] token与CNN损失计算区别】ViT中[CLS] token的输出与CNN计算Losses的最大区别是什么？请从全局特征提取、损失计算方式等角度分析。 「百度」
原题
暂无题目