真面经，好答案。面试之前，先来面栈。

三一树根

1 篇面经14 道面试题

开始复习

已筛选

共 14 道题

排序：

0512
大模型常见位置编码有哪些，各有什么优缺点？
模型基础与推理Tokenizer 与位置编码
比较选型
进阶
1 篇面经5 个题集来源
0572
Self-Attention 为什么需要 Scaling？
模型基础与推理Transformer 与注意力
原理机制已有答案
进阶
1 篇面经5 个题集来源
4737
手写 Self-Attention。
模型基础与推理Transformer 与注意力
代码题
进阶
1 篇面经5 个题集来源
0001
请做一个自我介绍，说明自己的实习与学习经历。
项目与综合面试个人介绍与教育经历
经历介绍已有答案面前必看
—
1 篇面经4 个题集来源
4171
交叉熵与 KL 散度有什么联系和区别，分别适用于哪些任务？
模型训练与对齐训练框架、调参与排障
比较选型
进阶
1 篇面经3 个题集来源
4634
大语言模型预训练通常使用什么预测目标，它如何形成训练信号？
模型训练与对齐预训练、续训与 SFT
原理机制
基础
1 篇面经3 个题集来源
4636
大模型预训练中的 Scaling Law 是什么，对资源配置有什么指导意义？
模型训练与对齐预训练、续训与 SFT
原理机制
进阶
1 篇面经3 个题集来源
4898
马尔可夫过程、奖励过程与决策过程有何联系，马尔可夫性意味着什么？
模型训练与对齐强化学习与奖励
概念解释
基础
1 篇面经3 个题集来源
4901
贝尔曼方程如何联系状态价值、动作价值与策略求解？
模型训练与对齐强化学习与奖励
原理机制
进阶
1 篇面经3 个题集来源
0626
如何理解模型训练中的过拟合和欠拟合？
模型训练与对齐训练框架、调参与排障
故障排查
基础
1 篇面经2 个题集来源