字节跳动

大模型算法二面面经

完整信息

13 条问法 · 12 道题

本篇目录

一、算法手撕(开场直接做题)

1. 给定目标数字  n  与数字数组  A ,允许数组内数字无限重复使用,求解可以拼出的、小于n的最大数值。 2. 要求分析该解题思路对应的时间复杂度、空间复杂度。

二、项目深挖提问(细节针对性追问)

1. 请解释项目中所用到的内化机制具体原理与实现逻辑。 2. 师生模型架构中,教师模型、学生模型各自的参数更新频次是怎样的?是否属于协同训练范式? 3. 项目中的优化方案,是否对应智能Agent领域的OPD优化思路?不同业务场景(搜推/大模型Agent)是否存在命名与定义差异? 4. 复盘个人项目,说明整套方案的核心创新点与差异化优势。 5. 结合落地场景,阐述该项目技术可以落地的具体业务场景与实际价值。

三、深度学习&大模型八股提问

1. 详细对比 GRPO 与 DPO 的核心原理、适用场景与优劣差异。 2. 通俗讲解重要性采样的底层原理与作用。 3. 自研自蒸馏训练框架,是否适配重要性采样?说明适配或不适配的原因。 4. 基于教师模型打分、指导学生模型做强化学习训练,会产生什么训练效果?对应哪种主流优化范式? 5. OPD训练框架是否适合引入重要性采样策略?说明理由。 6. 完整讲解Transformer整体架构,并区分 Encoder、Decoder 的结构差异与各自适用任务。

四、反问环节

1. 询问团队训练显卡资源规模,面试官表示相关信息为内部机密,未做解答。
本篇目录
  1. 01
    给定目标数字 n 与数字数组 A ,允许数组内数字无限重复使用,求解可以拼出的、小于n的最大数值。
  2. 02
  3. 03
    师生模型架构中,教师模型、学生模型各自的参数更新频次是怎样的?是否属于协同训练范式?
  4. 04
    项目中的优化方案,是否对应智能Agent领域的OPD优化思路?不同业务场景(搜推/大模型Agent)是否存在命名与定义差异?
  5. 05
  6. 06
  7. 07
  8. 08
  9. 09
  10. 10
    基于教师模型打分、指导学生模型做强化学习训练,会产生什么训练效果?对应哪种主流优化范式?
  11. 11
  12. 12
  13. 13
    反问
    询问团队训练显卡资源规模,面试官表示相关信息为内部机密,未做解答。

同作者面经

展开其余 44 篇收起其余 44 篇

相关公司