腾讯
大模型算法岗一面、二面面经
完整信息
本篇目录
一面
1. 缩放点积注意力的底层原理是什么？
2. QKV分头投影之后，transpose(1,2)操作起到什么作用？
3. 多头注意力拼接结果，为什么一般要调用contiguous()？
4. ReAct框架的原理与运行流程？
5. 多轮工具调用场景下，如何设计RL损失函数？
6. 多轮rollout，loss是每一步调用工具后即时计算，还是完整rollout结束后统一计算？
7. Agent模型评估，和普通大模型评估有哪些差异？
8. Agent强化学习，对比单轮LLM强化学习有什么区别？
9. 从损失函数角度分析GRPO方法存在哪些缺陷？
10. GSPO相比GRPO，做了哪些核心改进？
11. Qwen3.5-9B原生是否具备Agent能力？
12. 解释OPD方法，使用什么损失函数，为什么选用reverse KL而非forward KL？
手撕：手写多头注意力（Multi-Head Attention）
二面
1. 多工具Agent在SFT阶段，一般会开展哪些工作？
2. 完整一次rollout流程，最终奖励值如何计算得到？
3. 使用LLM Judge做打分评估时，是否需要传入工具返回的观测信息Observation？
4. 工具调用或者参数输出出错时，怎么评估模型输出答案与执行过程？
5. Agent强化学习训练时，针对工具返回等待、批数据组织做过哪些优化？
6. 多工具Agent的训练环境Harness是否需要自研？如何在该环境开展训练？
7. 已有成熟开源Agent框架，为什么还要自研Agent循环与Harness组件？
8. 多Agent系统里，主Agent和子Agent如何分工，子Agent职责怎么划定？
9. 如何量化分析模型、知识库、工具、路由模块分别对最终效果的贡献？
10. 版本上线效果变差，怎么定位问题发生的环节？
11. 如何区分端到端延迟来自工具调用/数据库查询，还是模型推理？是否需要埋点统计耗时？
12. 单Agent场景下，可以从哪些方向优化端到端时延？
无手撕，后续HR面，发放offer
本篇目录
当前问题0125
- 01
缩放点积注意力的底层原理是什么？
- 02
QKV分头投影之后，transpose(1,2)操作起到什么作用？
- 03
多头注意力拼接结果，为什么一般要调用contiguous()？
- 04
ReAct框架的原理与运行流程？
- 05
多轮工具调用场景下，如何设计RL损失函数？
- 06
多轮rollout，loss是每一步调用工具后即时计算，还是完整rollout结束后统一计算？
- 07
Agent模型评估，和普通大模型评估有哪些差异？
- 08
Agent强化学习，对比单轮LLM强化学习有什么区别？
- 09
从损失函数角度分析GRPO方法存在哪些缺陷？
- 10
GSPO相比GRPO，做了哪些核心改进？
- 11
Qwen3.5-9B原生是否具备Agent能力？
- 12
解释OPD方法，使用什么损失函数，为什么选用reverse KL而非forward KL？
- 13
手撕：手写多头注意力（Multi-Head Attention）
- 14
多工具Agent在SFT阶段，一般会开展哪些工作？
- 15
完整一次rollout流程，最终奖励值如何计算得到？
- 16
使用LLM Judge做打分评估时，是否需要传入工具返回的观测信息Observation？
- 17
工具调用或者参数输出出错时，怎么评估模型输出答案与执行过程？
- 18
Agent强化学习训练时，针对工具返回等待、批数据组织做过哪些优化？
- 19
多工具Agent的训练环境Harness是否需要自研？如何在该环境开展训练？
- 20
已有成熟开源Agent框架，为什么还要自研Agent循环与Harness组件？
- 21
多Agent系统里，主Agent和子Agent如何分工，子Agent职责怎么划定？
- 22
如何量化分析模型、知识库、工具、路由模块分别对最终效果的贡献？
- 23
版本上线效果变差，怎么定位问题发生的环节？
- 24
如何区分端到端延迟来自工具调用/数据库查询，还是模型推理？是否需要埋点统计耗时？
- 25
单Agent场景下，可以从哪些方向优化端到端时延？