多模态与计算机视觉

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

414 道原题
  1. 【多模态特征融合方式】把多模态特征加到模型里,除了生成SID的方式,还有别的方式吗? 「美团」

    原题
  2. 【微调视觉编码器】你为什么不直接微调整个大模型,而是只微调大模型的视觉编码器部分? 「字节跳动」

    原题
  3. 【视觉token投影与对齐】为什么视觉token要经过projection之后再进入LLM?vision token输入到对齐层做了哪些操作?为什么不能直接用多模态的embedding(如QWEN-VL的embedding)去训练? 「字节跳动、美团、阿里巴巴」

    原题
  4. 【视觉编码器损失】Vision Encoder的loss怎么设计的? 「美团」

    原题
  5. 【视觉编码器桥接】有没有试过vision encoder的桥接? 「腾讯」

    原题
  6. 【跨模态对齐可视化】如何通过可视化分析模型的跨模态对齐效果? 「京东」

    原题
  7. 【跨模态注意力机制】比如如何理解“跨模态注意力机制”在融合中的作用? 「京东」

    原题
  8. 【CLIP与ConvNext特征交互】CLIP的特征怎么和ConvNext的特征做交互? 「蚂蚁集团」

    原题
  9. 【CLIP双塔召回与冷启动】多模态召回:CLIP 风格双塔 + cold start 怎么融合内容向量 「字节跳动」

    原题
  10. 【CLIP对比学习采样与计算】详细说明CLIP架构中Contrastive Learning的正负采样策略,如何处理百万级Batch Size下的计算开销? 「腾讯」

    原题