AI多模态精华版·基石模型核心技术

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集

题目目录

29 道原题
  1. CLIP 的双编码器结构与前向流程是怎样的?

    原题
  2. 为什么 CLIP 采用双塔(dual-encoder)而非单塔融合架构?

    原题
  3. 对比学习相比分类式/生成式目标,为什么更适合 CLIP 的大规模预训练?

    原题
  4. CLIP 的对比预训练目标与传统 ImageNet 监督分类有何本质区别?

    原题
  5. CLIP 预训练范式存在哪些固有局限?

    原题
  6. CLIP 的零样本分类推理流程是怎样的?

    原题
  7. 为什么文本提示(prompt)的构造会显著影响零样本精度?

    原题
  8. CLIP 的双塔结构为什么天然适合大规模跨模态检索?

    原题
  9. CLIP 检索在实际落地中存在哪些瓶颈?如何缓解?

    原题
  10. BLIP 的 MED(多模态编码-解码混合)结构包含哪几种功能模式?

    原题
  11. 为什么 BLIP 要在 CLIP 式双编码器之外引入生成式解码器?

    原题
  12. BLIP 的三个预训练目标(ITC/ITM/LM)各自承担什么作用?

    原题
  13. 相比 CLIP 的纯对比学习,BLIP 多目标设计扩展了哪些能力?

    原题
  14. CapFilt 的 Captioner 与 Filter 分别如何工作?

    原题
  15. CapFilt 为什么能提升网络爬取数据的质量?解决了什么核心痛点?

    原题
  16. BLIP 在图文检索任务上相比 CLIP 有何优势?

    原题
  17. BLIP 如何统一支持 VQA、Image Captioning 等生成式理解任务?

    原题
  18. BLIP-2 为什么采用冻结图像编码器 + 冻结 LLM + 轻量 Q-Former 的设计?

    原题
  19. Q-Former 的两阶段训练如何实现跨模态对齐?

    原题
  20. LLaVA 的三段式结构(视觉编码器 + 投影器 + LLM)如何工作?

    原题
  21. 为什么 LLaVA 选择以 LLM 为核心而非以视觉模型为核心?

    原题
  22. LLaVA 的两阶段训练(特征对齐预训练 + 指令微调)目标分别是什么?

    原题
  23. 相比 CLIP/BLIP 的对比学习,LLaVA 的生成式训练带来了哪些能力差异?

    原题
  24. LLaVA 如何借助纯文本 GPT-4 合成多模态指令数据?

    原题
  25. 合成指令数据为什么是 LLaVA 视觉指令跟随能力的关键?

    原题
  26. LLaVA 与 BLIP-2 在跨模态连接模块(MLP vs Q-Former)上有何取舍?

    原题
  27. LLaVA 与 BLIP-2 在训练成本与数据效率上有何差异?

    原题
  28. 从 LLaVA-1.0 到 LLaVA-1.5/NeXT 的关键技术演进有哪些?

    原题
  29. 这些演进如何提升模型在高分辨率、文档 OCR、复杂推理等任务上的能力?

    原题