大模型算法二面面经
完整信息
本篇目录
一、项目深挖类问题
1. 实习期间所属的具体团队是什么?你负责的项目落地应用场景有哪些?模型/功能接入业务后,带来了哪些具体优化提升?该项目是否包含模型后训练相关工作?
2. 你为何选择从MT跳槽至阿里偏向业务落地的岗位?两家企业技术层级相近,请说明你的核心择业考量。
3. 你参与的这份项目工作,是否完成正式上线、投入真实业务使用?
二、模型微调专项问题
1. 简述你项目中LoRA的具体参数配置方案
2. 整套LoRA训练流程,为模型带来的核心能力提升是什么?
三、算法编程题
1. 给定二维矩阵,实现算法:将矩阵中所有数值为0的元素所在的整行、整列,全部赋值为0
四、深度学习八股问题
1. 详细阐述自注意力机制(self-attention)的核心工作原理
2. 自注意力计算中,除以根号d维度的核心作用是什么?
3. 标准自注意力机制的时间复杂度如何计算?具体是多少?
4. 行业内常用的降低自注意力时间复杂度的方案有哪些?
5. 针对深层神经网络,有哪些方法可以有效规避梯度消失、梯度爆炸问题?
6. 对比ReLU激活函数与GLU激活函数,说明二者核心区别、适用场景差异
7. 模型训练过程中,有哪些主流的显存优化、显存节省方案?
本篇目录
当前问题0114
- 01
实习期间所属的具体团队是什么?你负责的项目落地应用场景有哪些?模型/功能接入业务后,带来了哪些具体优化提升?该项目是否包含模型后训练相关工作?
- 02
实习期间所属的具体团队是什么?你负责的项目落地应用场景有哪些?模型/功能接入业务后,带来了哪些具体优化提升?该项目是否包含模型后训练相关工作?
- 03
你为何选择从MT跳槽至阿里偏向业务落地的岗位?两家企业技术层级相近,请说明你的核心择业考量。
- 04
你参与的这份项目工作,是否完成正式上线、投入真实业务使用?
- 05
简述你项目中LoRA的具体参数配置方案
- 06
整套LoRA训练流程,为模型带来的核心能力提升是什么?
- 07
给定二维矩阵,实现算法:将矩阵中所有数值为0的元素所在的整行、整列,全部赋值为0
- 08
详细阐述自注意力机制(self-attention)的核心工作原理
- 09
自注意力计算中,除以根号d维度的核心作用是什么?
- 10
标准自注意力机制的时间复杂度如何计算?具体是多少?
- 11
行业内常用的降低自注意力时间复杂度的方案有哪些?
- 12
针对深层神经网络,有哪些方法可以有效规避梯度消失、梯度爆炸问题?
- 13
对比ReLU激活函数与GLU激活函数,说明二者核心区别、适用场景差异
- 14
模型训练过程中,有哪些主流的显存优化、显存节省方案?
