字节跳动
多模态大模型算法一面面经
完整信息
本篇目录
一、多模态零售项目深挖
1. 讲解项目整体技术架构，完整说明原始商品数据采集、过滤清洗、入库的全链路流程
2. 你最终构建5K多模态指令数据，请详述从近5万条原始图文素材，筛选精炼得到最终训练集的完整数据Pipeline
3. 简述Qwen3-VL整体架构，图像模态Token与文本Token之间的注意力交互机制
4. 微调阶段选择冻结视觉编码器、只训练投影层与大语言模块的设计理由
5. 详细阐述QLoRA参数高效微调的底层原理与压缩逻辑
6. 图文匹配、商品属性抽取等SFT评测指标的构建思路与具体计算方式
7. 模型对齐阶段选用DPO替代传统RLHF的核心考量与优势
8. 如何通过对照实验、评测方案，证明确实具备视觉理解能力、而非单纯记忆测试集商品信息、规避数据泄露质疑
二、Multi-Agent强化学习项目深挖
1. 业务场景下选用多智能体架构，对比单智能体+工具调用方案的核心优势
2. 自评当前系统属于真正智能Agent，还是固定流程Workflow，说明判断依据
3. 项目动作空间如何设计，动作选取逻辑是什么？如何规避动作空间过大导致探索困难、收敛不稳定问题
4. 对齐训练选用GRPO、舍弃PPO算法的对比理由
5. 详细介绍GRPO训练中整套奖励函数的分层设计思路
6. 训练中是否出现Reward Hacking问题，例如智能体为刷高分无意义频繁调用工具，如何发现与解决
三、大模型RL核心八股
1. GRPO算法无需价值网络（Value Model）的底层原理
2. GRPO训练后任务成功率提升、但输出多样性显著下降，分析背后成因
3. GRPO训练引入KL惩罚项的核心作用与约束意义
四、开放思辨题
1. 如果不做GRPO强化对齐，仅依靠Prompt工程优化，理论性能上限能达到多少？差距来源是什么？
五、代码手撕
LeetCode中等：最长公共子序列
本篇目录
当前问题0119
- 01
讲解项目整体技术架构，完整说明原始商品数据采集、过滤清洗、入库的全链路流程
- 02
你最终构建5K多模态指令数据，请详述从近5万条原始图文素材，筛选精炼得到最终训练集的完整数据Pipeline
- 03
简述Qwen3-VL整体架构，图像模态Token与文本Token之间的注意力交互机制
- 04
微调阶段选择冻结视觉编码器、只训练投影层与大语言模块的设计理由
- 05
详细阐述QLoRA参数高效微调的底层原理与压缩逻辑
- 06
图文匹配、商品属性抽取等SFT评测指标的构建思路与具体计算方式
- 07
模型对齐阶段选用DPO替代传统RLHF的核心考量与优势
- 08
如何通过对照实验、评测方案，证明确实具备视觉理解能力、而非单纯记忆测试集商品信息、规避数据泄露质疑
- 09
业务场景下选用多智能体架构，对比单智能体+工具调用方案的核心优势
- 10
自评当前系统属于真正智能Agent，还是固定流程Workflow，说明判断依据
- 11
项目动作空间如何设计，动作选取逻辑是什么？如何规避动作空间过大导致探索困难、收敛不稳定问题
- 12
对齐训练选用GRPO、舍弃PPO算法的对比理由
- 13
详细介绍GRPO训练中整套奖励函数的分层设计思路
- 14
训练中是否出现Reward Hacking问题，例如智能体为刷高分无意义频繁调用工具，如何发现与解决
- 15
GRPO算法无需价值网络（Value Model）的底层原理
- 16
GRPO训练后任务成功率提升、但输出多样性显著下降，分析背后成因
- 17
GRPO训练引入KL惩罚项的核心作用与约束意义
- 18
如果不做GRPO强化对齐，仅依靠Prompt工程优化，理论性能上限能达到多少？差距来源是什么？
- 19
LeetCode中等：最长公共子序列