百度
大模型算法工程师二面面经
完整信息
本篇目录
一、项目深挖提问
1. 详细介绍你个人最熟悉、落地最深的一个多模态项目。面试官会针对模型结构深度追问：项目主干网络中，自注意力与交叉注意力的执行顺序是什么？如果调换二者顺序是否可行？请说明底层原理与性能差异原因。
二、开放式科研场景题
2. 假设落地音频驱动数字人重建任务，请分析当前技术链路中存在的核心痛点、落地瓶颈；同时梳理该方向具备创新性、可独立产出高质量论文的可行创新切入点。
三、实习技术专项提问（FLUX系列）
3. 结合实习落地经历，详细阐述 FLUX 生成模型的整体架构设计、模块组成与运行逻辑。
4. 横向对比 FLUX 与 WAN 系列模型，二者在网络结构、训练范式、建模逻辑上的核心差异化设计是什么？
5. 在 FLUX 模型中，文本条件特征是如何完成嵌入、融合与条件注入到生成网络中的？
四、微调八股核心提问
6. 请完整写出 LoRA 低秩微调的核心计算公式，并解释各参数物理意义。
7. LoRA 两个低秩矩阵在权重初始化阶段采用了什么特殊策略？为什么不能随机初始化？
8. LoRA 初始化能否采用「A矩阵全零初始化、B矩阵随机初始化」的方式？请从收敛性、梯度更新、训练稳定性角度解释原因。
五、手撕代码
9. 现场手写 Cross-Attention 交叉注意力 完整代码实现，考察维度变换、掩码逻辑、注意力分数计算、加权求和全过程。
本篇目录
当前问题0109
- 01
详细介绍你个人最熟悉、落地最深的一个多模态项目。面试官会针对模型结构深度追问：项目主干网络中，自注意力与交叉注意力的执行顺序是什么？如果调换二者顺序是否可行？请说明底层原理与性能差异原因。
- 02
假设落地音频驱动数字人重建任务，请分析当前技术链路中存在的核心痛点、落地瓶颈；同时梳理该方向具备创新性、可独立产出高质量论文的可行创新切入点。
- 03
结合实习落地经历，详细阐述 FLUX 生成模型的整体架构设计、模块组成与运行逻辑。
- 04
横向对比 FLUX 与 WAN 系列模型，二者在网络结构、训练范式、建模逻辑上的核心差异化设计是什么？
- 05
在 FLUX 模型中，文本条件特征是如何完成嵌入、融合与条件注入到生成网络中的？
- 06
请完整写出 LoRA 低秩微调的核心计算公式，并解释各参数物理意义。
- 07
LoRA 两个低秩矩阵在权重初始化阶段采用了什么特殊策略？为什么不能随机初始化？
- 08
LoRA 初始化能否采用「A矩阵全零初始化、B矩阵随机初始化」的方式？请从收敛性、梯度更新、训练稳定性角度解释原因。
- 09
现场手写 Cross-Attention 交叉注意力 完整代码实现，考察维度变换、掩码逻辑、注意力分数计算、加权求和全过程。