拼多多
大模型算法二面面经
完整信息
本篇目录
一、项目深挖类问题
1. 实习期间所属的具体团队是什么？你负责的项目落地应用场景有哪些？模型/功能接入业务后，带来了哪些具体优化提升？该项目是否包含模型后训练相关工作？
2. 你为何选择从MT跳槽至阿里偏向业务落地的岗位？两家企业技术层级相近，请说明你的核心择业考量。
3. 你参与的这份项目工作，是否完成正式上线、投入真实业务使用？
二、模型微调专项问题
1. 简述你项目中LoRA的具体参数配置方案
2. 整套LoRA训练流程，为模型带来的核心能力提升是什么？
三、算法编程题
1. 给定二维矩阵，实现算法：将矩阵中所有数值为0的元素所在的整行、整列，全部赋值为0
四、深度学习八股问题
1. 详细阐述自注意力机制（self-attention）的核心工作原理
2. 自注意力计算中，除以根号d维度的核心作用是什么？
3. 标准自注意力机制的时间复杂度如何计算？具体是多少？
4. 行业内常用的降低自注意力时间复杂度的方案有哪些？
5. 针对深层神经网络，有哪些方法可以有效规避梯度消失、梯度爆炸问题？
6. 对比ReLU激活函数与GLU激活函数，说明二者核心区别、适用场景差异
7. 模型训练过程中，有哪些主流的显存优化、显存节省方案？
本篇目录
当前问题0114
- 01
实习期间所属的具体团队是什么？你负责的项目落地应用场景有哪些？模型/功能接入业务后，带来了哪些具体优化提升？该项目是否包含模型后训练相关工作？
- 02
实习期间所属的具体团队是什么？你负责的项目落地应用场景有哪些？模型/功能接入业务后，带来了哪些具体优化提升？该项目是否包含模型后训练相关工作？
- 03
你为何选择从MT跳槽至阿里偏向业务落地的岗位？两家企业技术层级相近，请说明你的核心择业考量。
- 04
你参与的这份项目工作，是否完成正式上线、投入真实业务使用？
- 05
简述你项目中LoRA的具体参数配置方案
- 06
整套LoRA训练流程，为模型带来的核心能力提升是什么？
- 07
给定二维矩阵，实现算法：将矩阵中所有数值为0的元素所在的整行、整列，全部赋值为0
- 08
详细阐述自注意力机制（self-attention）的核心工作原理
- 09
自注意力计算中，除以根号d维度的核心作用是什么？
- 10
标准自注意力机制的时间复杂度如何计算？具体是多少？
- 11
行业内常用的降低自注意力时间复杂度的方案有哪些？
- 12
针对深层神经网络，有哪些方法可以有效规避梯度消失、梯度爆炸问题？
- 13
对比ReLU激活函数与GLU激活函数，说明二者核心区别、适用场景差异
- 14
模型训练过程中，有哪些主流的显存优化、显存节省方案？