字节跳动
Agent 算法实习面经
完整信息
本篇目录
一、数据合成与数据质量相关
1. 在做大模型自动化数据合成工作中，你实际遇到过哪些典型难点？分别采用什么优化方案解决？
2. 在自研、自动化构建训练数据集的过程中，你整套数据质量管控体系是如何设计和落地的？
二、SFT训练与模型评测原理
3. 你在微调阶段使用的SFT Loss具体计算逻辑是什么？请结合训练样本形式说明。
4. 仅使用通用原始语料预训练，和使用结构化问答对做监督微调，两者在模型能力、收敛效果上有什么本质差异？
5. 能否通过困惑度（Perplexity）高低，判断模型是否缺失某一类领域知识？你如何评价该方法的合理性与局限性？
三、Agent数据与交互模拟
6. 智能体（Agent）交互轨迹数据，与常规大模型训练语料相比，核心差异在哪里？你是如何仿真用户与Agent真实交互过程、构造高质量交互样本的？
四、深度学习基础理论
7. 简单介绍你熟悉的概率论核心知识点，结合模型训练场景举例说明。
8. 标准分类任务下的交叉熵损失公式如何推导、如何计算？
9. 在图像分类任务中，为什么行业普遍使用交叉熵而非MSE均方误差？MSE替代后会存在哪些训练问题？
五、强化学习与对齐算法
10. 简述主流强化学习算法的分类、核心思路及适用场景。
11. GRPO算法中的裁剪（clip）操作具体作用是什么？解决了训练中的什么问题？
六、项目落地细节深挖
12. 介绍你项目的数据获取渠道、训练硬件资源配置、奖励函数的设计思路与调优逻辑。
七、代码手撕
13. 现场手撕算法：最长有效括号
📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。
本篇目录
当前问题0113
- 01
在做大模型自动化数据合成工作中，你实际遇到过哪些典型难点？分别采用什么优化方案解决？
- 02
在自研、自动化构建训练数据集的过程中，你整套数据质量管控体系是如何设计和落地的？
- 03
你在微调阶段使用的SFT Loss具体计算逻辑是什么？请结合训练样本形式说明。
- 04
仅使用通用原始语料预训练，和使用结构化问答对做监督微调，两者在模型能力、收敛效果上有什么本质差异？
- 05
能否通过困惑度（Perplexity）高低，判断模型是否缺失某一类领域知识？你如何评价该方法的合理性与局限性？
- 06
智能体（Agent）交互轨迹数据，与常规大模型训练语料相比，核心差异在哪里？你是如何仿真用户与Agent真实交互过程、构造高质量交互样本的？
- 07
简单介绍你熟悉的概率论核心知识点，结合模型训练场景举例说明。
- 08
标准分类任务下的交叉熵损失公式如何推导、如何计算？
- 09
在图像分类任务中，为什么行业普遍使用交叉熵而非MSE均方误差？MSE替代后会存在哪些训练问题？
- 10
简述主流强化学习算法的分类、核心思路及适用场景。
- 11
GRPO算法中的裁剪（clip）操作具体作用是什么？解决了训练中的什么问题？
- 12
介绍你项目的数据获取渠道、训练硬件资源配置、奖励函数的设计思路与调优逻辑。
- 13
现场手撕算法：最长有效括号