AI多模态精华版·核心组件

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

35 道原题
  1. 编码器在多模态模型中的核心作用是什么?为什么不可或缺?

    原题
  2. 视觉、文本、音频三类编码器的处理流程有何差异?

    原题
  3. 编码器的输出能否直接送入 LLM?为什么需要后续模块?

    原题
  4. ViT 的网络结构与工作流程是什么?

    原题
  5. ViT 原始的有监督预训练方式有何局限?

    原题
  6. MAE 的预训练策略与关键设计是什么?为什么遮蔽率高达 75%?

    原题
  7. ViT 与 MAE 在主流多模态模型中如何被使用?

    原题
  8. Whisper 编码器的模型结构与训练目标是什么?

    原题
  9. 语音 Tokenizer 是什么?与 Whisper 编码器有何区别?

    原题
  10. 在多模态模型中如何选型?Whisper 与语音 Tokenizer 各自适合什么场景?

    原题
  11. 高分辨率视觉输入为何对 ViT 构成挑战?

    原题
  12. 动态分块方案如何工作?有何优缺点?

    原题
  13. 多尺度编码与自适应分辨率分别解决什么问题?

    原题
  14. Token 压缩与稀疏注意力如何缓解长序列压力?

    原题
  15. 为什么多模态模型必须引入投影器?它解决了什么问题?

    原题
  16. 投影器的输入输出形式是什么?设计目标有哪些?

    原题
  17. 主流输入投影器的分类维度与代表方案有哪些?

    原题
  18. 四类投影器的基本结构与计算流程对比

    原题
  19. Linear Projection(线性投影)的优点与适用场景

    原题
  20. MLP 投影器相比线性投影有何优势?

    原题
  21. Cross-Attention 式投影器(Q-Former)的核心思想是什么?

    原题
  22. Conv Mapper 适合的模态与场景有哪些?

    原题
  23. 投影器中加入位置编码(Position Embedding)的作用是什么?

    原题
  24. 加入模态类型编码(Modality Type Embedding)的作用是什么?

    原题
  25. 多模态生成器的角色分工是什么?

    原题
  26. 生成器需要满足哪些核心设计目标?

    原题
  27. 主流生成器的分类维度与代表方案有哪些?

    原题
  28. 各类生成器的基本结构与计算流程对比

    原题
  29. 扩散模型生成器(DDPM/LDM/SD3/FLUX)的核心机制与适用场景

    原题
  30. 自回归生成器(Chameleon/Emu3/Janus-Pro)的核心机制与适用场景

    原题
  31. 流匹配生成器(Flow Matching/Rectified Flow)的核心机制与优势

    原题
  32. Vocoder 类生成器(HiFi-GAN/EnCodec/VALL-E)的核心机制与适用场景

    原题
  33. 条件控制与内容创造的权衡如何处理?

    原题
  34. 训练与推理阶段如何缓解模态鸿沟问题?

    原题

    此处“模态鸿沟”指共享嵌入空间中的模态分离。

  35. 主流采样策略与推理加速方法有哪些?

    原题