大模型算法实习生一面面经
完整信息
本篇目录
继续来分享下最近的面经~
1.lora和全量的显存计算怎么算,一般来说哪一部分占比最大
2.描述一下dpo
3.dpo的损失函数
4.dpo训练参数
5.(思考题)蒙特卡洛算法,先验概率
6.7b模型用几张卡训
7.llm as judge的偏见分为哪些,有什么解决方法
8.rag流程
9.假如关闭llm的think模式,但在prompt里依旧写<think>……</think>会怎样
10.强化学习训练指标
11.举一个自己的reward hawking例子
12.rag的演变历程
13.怎样算是一个优秀的prompt
等
手撕:
快排
本篇目录
当前问题0113
- 01
lora和全量的显存计算怎么算,一般来说哪一部分占比最大
- 02
描述一下dpo
- 03
dpo的损失函数
- 04
dpo训练参数
- 05
7b模型用几张卡训
- 06
llm as judge的偏见分为哪些,有什么解决方法
- 07
rag流程
- 08
假如关闭llm的think模式,但在prompt里依旧写<think>……</think>会怎样
- 09
强化学习训练指标
- 10
举一个自己的reward hawking例子
- 11
rag的演变历程
- 12
怎样算是一个优秀的prompt
- 13
快排