大模型训推工程二面面经

发面经攒人品[赞]

1. 个人介绍

2. 字节实习是什么时候结束的？目前还在实习吗？

3. 为什么没有留用？在字节实习期间主要负责哪些工作？

4. Agent 能否直接执行查询和写操作？涉及线上变更时如何控制风险？

5. Agent 开发中遇到的最大挑战是什么？

6. 修改 Skill 或 CLI 后，如何验证它能达到线上运行的预期？

7. 详细介绍一下你设计的 Skill 评测系统及其执行流程。

8. 评测过程中会记录哪些 Trace 数据？使用了哪些确定性指标？

9. Agent 回复质量无法通过代码直接衡量时，你们是如何打分的？

10. 评测结果是否已经与 Agent 自动修改 Skill 的能力打通，形成自动优化闭环？

11. 为什么选择自研评测系统？调研或参考过哪些现有框架和资料？

12. 介绍一下你参考的 Agent Evaluation 方案，以及它对你们评测系统设计的影响。

13. 你们的 Skill、CLI 和 Agent Runtime 分别承担什么职责？一次工具调用是如何执行的？

14. Agent 是如何部署的？不同用户的会话和工作区如何隔离？

15. 为什么不为每个用户单独启动一个 Docker？当前方案如何处理资源和并发问题？

16. Agent Runtime 部署在哪里？

17. 平台前端、飞书机器人和用户本地使用时，分别如何接入 Agent 能力？

18. 目前 Agent 支撑了多少业务或用户？

19. 线上使用较多的是哪些功能？查询操作和写操作的开放情况如何？

20. 你对这个岗位或团队了解多少？一面面试官是如何介绍的？

21. 如果岗位涉及更底层的训练、推理基础设施，你认为自己的匹配度如何？

22. 你如何理解训练推理引擎，可能会涉及哪些底层工作？

23. 以前是否接触过大模型训练？使用了什么训练框架和数据集？

24. 训练完成后是否做过模型部署和测试？遇到过哪些问题？

25. 当时训练模型的目标或应用场景是什么？

26. Transformer 的底层原理是什么？为什么以前的卷积神经网络难以实现现在大模型的能力？

27. 大模型是如何训练的？为什么能够进行 Next Token Prediction？

28. Attention 中的 Q、K、V 分别表示什么，底层是如何计算的？

29. 个人职业规划是什么？未来希望从事哪个方向？

<a href="https://www.nowcoder.com/creation/subject/14710425d5b74593b2ef7103d293606f" class="subject font-green" target="_blank" data-nc-subject-type="0" data-nc-subject-tag-id="0">#秋招面试记录#</a>

<a href="https://www.nowcoder.com/creation/subject/d452f6203b0c4f43a1eb82cd75820344" class="subject font-green" target="_blank" data-nc-subject-type="0" data-nc-subject-tag-id="0">#阿里#</a>

（求一个oc）