多模态与计算机视觉
【ViT与DiT原理】ViT、DiT原理：请分别讲解Vision Transformer (ViT) 和 Diffusion Transformer (DiT) 的原理，包括架构、输入处理、注意力机制等。 「阿里巴巴」
原题【ViT与LoRA】ViT需要挂LoRA吗？请讨论在ViT上应用LoRA（Low-Rank Adaptation）的可行性、场景及优缺点。 「蚂蚁集团」
原题【ViT位置编码类型】ViT位置编码类型：请详细讲解ViT中使用的各种位置编码，包括一维位置编码、二维位置编码、相对位置编码、多模态位置编码的原理和区别。 「字节跳动」
原题【ViT损失函数实现】手撕ViT损失函数：实现ViTCrossEntropyLoss类，继承自nn.Module，使用import torch和import torch.nn。要求实现交叉熵损失，并考虑ViT中[CLS] token的输出。 「百度」
原题【ViT架构与原理】请详细讲解ViT（Vision Transformer）的模型架构和原理，包括图像是如何被切块、展平并映射为序列输入到Transformer中的，以及Transformer的具体结构（如自注意力、多头注意力、MLP、LayerNorm等），并说明ViT相比传统CNN的优点。 「字节跳动、拼多多、美团、腾讯、阿里巴巴」
原题【ViT结构与Patch嵌入】ViT具体结构说一下，图像转化为patch输入位置信息会丢失吗，所有patch使用的线性映射层是同一个还是不同？请详细解释ViT的patch嵌入过程，包括如何将图像切分为patch、展平、线性映射，以及位置编码的添加。 「腾讯」
原题【ViT计算过程与对齐策略】讲解ViT图像计算过程，现在常用的对齐策略是什么？请详细描述ViT的前向计算流程，并说明常用的对齐策略（如patch对齐、特征对齐等）。 「百度」
原题【ViT训练方式】现在ViT的训练方式有哪些？请列举并解释常见的ViT训练策略，如预训练+微调、知识蒸馏、自监督学习等。 「百度文心」
原题【动态分辨率】什么是动态分辨率(Dynamic Resolution)处理？请解释在ViT或多模态模型中如何实现动态分辨率，以及其目的和挑战。 「字节跳动」
原题【AR与DiT对比】AR+DiT的优势到底是什么？ 「腾讯混元」
原题原题未说明 AR 与 DiT 分别负责哪些表示或输出。
暂无题目