LLM、VLM 与 Agent 面试题

题集来源:Datawhale(datawhalechina)收录项目:hello-agents查看原题集

题目目录

92 道原题
  1. “涌现能力”是大型模型中一个备受关注的现象,请问你如何理解这个概念?它通常在模型规模达到什么程度时出现?

    原题
  2. 激活函数有了解吗,你知道哪些LLM常用的激活函数?为什么选用它?

    原题
  3. 混合专家模型(MoE)是如何在不显著增加推理成本的情况下,有效扩大模型参数规模的?请简述其工作原理。

    原题
  4. 在训练一个百或千亿参数级别的 LLM 时,你会面临哪些主要的工程和算法挑战?(例如:显存、通信、训练不稳定性等)

    原题
    1. 开源框架了解过哪些?

    完整原题

    开源框架了解过哪些?Qwen,Deepseek的论文是否有研读过,说一下其中的创新点主要体现在哪?

    原题
  5. 最近读过哪些LLM比较前沿的论文,聊一下它的相关方法,针对什么问题,提出了什么方法,对比实验有哪些?

    原题
  6. 多模态大模型(如 VLM)的核心挑战是什么?即如何实现不同模态信息(如视觉和语言)的有效对齐和融合?

    原题
  7. 请解释 CLIP 模型的工作原理。它是如何通过对比学习来连接图像和文本的?

    原题
  8. 像 LLaVA 或 MiniGPT-4 这样的模型是如何将一个预训练好的视觉编码器(Vision Encoder)和一个大语言模型(LLM)连接起来的?请描述其关键的架构设计。

    原题
  9. 什么是视觉指令微调?为什么说它是让 VLM 具备良好对话和指令遵循能力的关键步骤?

    原题