大模型算法工程师一面面经
完整信息
本篇目录
1. M-RoPE相较于原生RoPE做了哪些优化,具备什么优势?
2. 在M-RoPE出现前,RoPE处理视频数据的方式是什么,单帧、单个patch如何处理?
3. 垂类业务场景下,项目选择通用VLM,不直接采用领域专用模型的原因是什么?
4. 项目里VLM输出点坐标而非bbox,bbox携带图像信息更多,为什么这样设计?
5. 简述SAM2图像分割模型的核心原理。
6. 如果训练数据集由算法自动生成,如何评估这批合成数据质量好坏?
7. 介绍今年读过的生成式推荐相关论文。
8. 讲解RoPE、ALiBi两种相对位置编码的原理;SwiGLU原理,对比ReLU的优势。
9. 注意力机制基础问题:除以根号dk的原因、时间复杂度、多头注意力的意义。
10. 大模型有哪些微调方案,解释LoRA微调底层原理。
11. 说说你对模型蒸馏技术的理解。
12. 谈谈主流多模态模型,尝试推导扩散模型基础公式。
13. 算法手撕:LeetCode53最大子数组和,要求输出对应的子数组。
本篇目录
当前问题0114
- 01
M-RoPE相较于原生RoPE做了哪些优化,具备什么优势?
- 02
在M-RoPE出现前,RoPE处理视频数据的方式是什么,单帧、单个patch如何处理?
- 03
垂类业务场景下,项目选择通用VLM,不直接采用领域专用模型的原因是什么?
- 04
项目里VLM输出点坐标而非bbox,bbox携带图像信息更多,为什么这样设计?
- 05
简述SAM2图像分割模型的核心原理。
- 06
如果训练数据集由算法自动生成,如何评估这批合成数据质量好坏?
- 07
介绍今年读过的生成式推荐相关论文。
- 08
讲解RoPE、ALiBi两种相对位置编码的原理;SwiGLU原理,对比ReLU的优势。
- 09
注意力机制基础问题:除以根号dk的原因、时间复杂度、多头注意力的意义。
- 10
大模型有哪些微调方案,解释LoRA微调底层原理。
- 11
说说你对模型蒸馏技术的理解。
- 12
谈谈主流多模态模型,尝试推导扩散模型基础公式。
- 13
算法手撕:LeetCode53最大子数组和,要求输出对应的子数组。
- 14
大模型有哪些微调方案,解释LoRA微调底层原理。
