返回全部题目← 上一题112 / 315下一题 →题库/模型基础与推理/Q-5656ViT 与 MAE 的结构和预训练方式有何区别，如何用于视觉表示学习？知识专题：多模态与生成模型题目类型：原理机制技术难度：进阶收录题集：7 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）自动带入当前题目本题目录收录题集相关题目收录题集7 份多模态与计算机视觉阿东玩 AI · AgentGuide · 11 条原题查看题集 →【ViT vs VAE for 生成/重建】用vit和vae做视觉生成和重建各有什么好坏？ 「腾讯混元」【ViT与原始Transformer区别】Vision Transformer和原始Transformer的区别是什么？请从架构、输入处理、位置编码、注意力机制等方面详细说明。 「百度」【ViT图像分块与Token化】ViT是如何将图像切分为patch并转换为token序列的？请描述其图像处理机制。图像的token长度由什么参数来控制？具体说明patch大小、图像尺寸与token数量的关系。 「字节跳动、百度、阿里巴巴」展开其余 8 条原题【ViT [CLS] token与CNN损失计算区别】ViT中[CLS] token的输出与CNN计算Losses的最大区别是什么？请从全局特征提取、损失计算方式等角度分析。 「百度」【ViT与DiT原理】ViT、DiT原理：请分别讲解Vision Transformer (ViT) 和 Diffusion Transformer (DiT) 的原理，包括架构、输入处理、注意力机制等。 「阿里巴巴」【ViT架构与原理】请详细讲解ViT（Vision Transformer）的模型架构和原理，包括图像是如何被切块、展平并映射为序列输入到Transformer中的，以及Transformer的具体结构（如自注意力、多头注意力、MLP、LayerNorm等），并说明ViT相比传统CNN的优点。 「字节跳动、拼多多、美团、腾讯、阿里巴巴」【ViT结构与Patch嵌入】ViT具体结构说一下，图像转化为patch输入位置信息会丢失吗，所有patch使用的线性映射层是同一个还是不同？请详细解释ViT的patch嵌入过程，包括如何将图像切分为patch、展平、线性映射，以及位置编码的添加。 「腾讯」【ViT计算过程与对齐策略】讲解ViT图像计算过程，现在常用的对齐策略是什么？请详细描述ViT的前向计算流程，并说明常用的对齐策略（如patch对齐、特征对齐等）。 「百度」【ViT训练方式】现在ViT的训练方式有哪些？请列举并解释常见的ViT训练策略，如预训练+微调、知识蒸馏、自监督学习等。 「百度文心」【多模态ViT原理与训练】多模态大模型的ViT，解释原理、如何训练的？ 「阿里通义」【CLIP与ViT代码实现】手撕代码的部分力扣hot100 多模态大模型: CLIP + ViT。 「字节跳动」图像分类Rocky Ding · AIGC-Interview-Book · 3 条原题查看题集 →ViT 如何把图像变成 token 序列？MAE 和 DINOv2 分别代表什么自监督预训练路线？ViT 中的 CLS token 有什么作用？目标检测Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →掩码图像建模（MIM，如MAE）预训练为何比分类预训练更适合目标检测？多模态模态编码器Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →解释ViT和MAE的区别，并说明它们在图像特征提取方面的优势?AI多模态精华版·核心组件Rocky Ding · AIGC-Interview-Book · 4 条原题查看题集 →ViT 的网络结构与工作流程是什么？ViT 原始的有监督预训练方式有何局限？MAE 的预训练策略与关键设计是什么？为什么遮蔽率高达 75%？展开其余 1 条原题ViT 与 MAE 在主流多模态模型中如何被使用？展开剩余 2 份题集AI多模态基础总览Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →介绍一下视觉表示编码器ViT和MAE，包括结构特点、预训练方式01_AI视频核心基础知识Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →请讲一讲ViT模型的原理及其优缺点？相关题目4 题0522轨迹模型采用什么动作空间？同一知识专题题目类型：原理机制技术难度：进阶相关面经：2 篇0536你了解哪些多模态大模型及其原理？同一知识专题题目类型：原理机制技术难度：进阶相关面经：1 篇0777视频帧是否作为图片文件直接输入多模态模型？同一知识专题题目类型：原理机制技术难度：基础相关面经：1 篇0787长视频为什么不能一次全部交给大模型？同一知识专题题目类型：原理机制技术难度：基础相关面经：1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题多模态模型中的模态编码器承担什么职责，各类输入如何转为表示？下一题 →CLAP 如何通过音频与文本对比预训练学习联合表示？
