腾讯
后训练一面、二面面经
完整信息
本篇目录
一面
1. 梳理大模型位置编码演进路径：从绝对位置编码到 RoPE，说明后续优化方向
2. 视频VLM如何处理视频数据？帧采样策略、时序建模、去除画面冗余的方法
3. 对比 Qwen2-VL 与 Qwen3.5-VL，视频输入与图片输入的编码差异
4. 超大分辨率图片、长文档输入的适配难点，图像压缩与文档结构化方案
5. 模型推理超参详解：Top-k、Top-p、Temperature、Beam Search、Thinking Mode
6. 详细阐述 SFT、RL 的核心特性，以及两者对应的业务落地场景
7. 大模型完整数据 Pipeline：数据增强、Label Model、数据飞轮搭建逻辑
8. 稀疏 Attention 原理，以及训练、推理阶段的算力与开销变化
9. 模型量化主流方法，以及量化对精度、速度、显存的影响
二面
1. RL训练核心监控指标：熵值、KL Loss、各类Reward的作用与训练意义
2. KV Cache核心原理、复用机制、推理显存优化逻辑
3. 对比 vLLM、SGLang 加速机制，Batch推理、前缀缓存的差异
4. PPO、GRPO 完整算法细节、核心差别、训练开销与适用场景
5. PPO 中 Actor、Critic、Reward Model 的分工逻辑与协作关系
6. RL三核心：重要性采样、优势裁剪、KL约束的底层作用
7. 解释模型置信度：为什么优先 Verbalized 而非 Logits 概率判定
8. VLM全流程训练阶段：CLIP预训练、模态融合、后续接续训练流程
9. 模型业务指标上涨归因方法：基座、SFT、RL、Bad Case、样本分布分析
本篇目录
当前问题0118
- 01
梳理大模型位置编码演进路径：从绝对位置编码到 RoPE，说明后续优化方向
- 02
视频VLM如何处理视频数据？帧采样策略、时序建模、去除画面冗余的方法
- 03
对比 Qwen2-VL 与 Qwen3.5-VL，视频输入与图片输入的编码差异
- 04
超大分辨率图片、长文档输入的适配难点，图像压缩与文档结构化方案
- 05
模型推理超参详解：Top-k、Top-p、Temperature、Beam Search、Thinking Mode
- 06
详细阐述 SFT、RL 的核心特性，以及两者对应的业务落地场景
- 07
大模型完整数据 Pipeline：数据增强、Label Model、数据飞轮搭建逻辑
- 08
稀疏 Attention 原理，以及训练、推理阶段的算力与开销变化
- 09
模型量化主流方法，以及量化对精度、速度、显存的影响
- 10
RL训练核心监控指标：熵值、KL Loss、各类Reward的作用与训练意义
- 11
KV Cache核心原理、复用机制、推理显存优化逻辑
- 12
对比 vLLM、SGLang 加速机制，Batch推理、前缀缓存的差异
- 13
PPO、GRPO 完整算法细节、核心差别、训练开销与适用场景
- 14
PPO 中 Actor、Critic、Reward Model 的分工逻辑与协作关系
- 15
RL三核心：重要性采样、优势裁剪、KL约束的底层作用
- 16
解释模型置信度：为什么优先 Verbalized 而非 Logits 概率判定
- 17
VLM全流程训练阶段：CLIP预训练、模态融合、后续接续训练流程
- 18
模型业务指标上涨归因方法：基座、SFT、RL、Bad Case、样本分布分析