公司未注明
AI Infra面经
完整信息
本篇目录
1.详细说明大模型rl全流程，涉及到哪些模型，ppo/grpo有什么区别；
2.rl里rollout耗时占比大概百分之多少，policy mfu大概多少，mfu计算公式，6Nd公式是什么；
3.rl里rollout有哪些优化点（rollout量化 异步rollout等）；
4.介绍rl中如何把预训练权重同步到推理引擎；
5.Megatron，tp是怎么切分的，mlp中第一个矩阵和第二个矩阵分别是行切还是列切，通信分别是什么算子；
6.预训练和sft loss、数据集有什么区别；
7.预训练优化，介绍流水线并行，说明一下1f1b，dualpipe；
8.说一下DeepSeek论文里觉得印象深刻的点（fp8训练）；
9.介绍一下vllm/sglang里的continuous batching；
本篇目录
当前问题0110
- 01
详细说明大模型rl全流程，涉及到哪些模型，ppo/grpo有什么区别；
- 02
rl里rollout耗时占比大概百分之多少
- 03
policy mfu大概多少，mfu计算公式，6Nd公式是什么
- 04
rl里rollout有哪些优化点（rollout量化 异步rollout等）；
- 05
介绍rl中如何把预训练权重同步到推理引擎；
- 06
Megatron，tp是怎么切分的，mlp中第一个矩阵和第二个矩阵分别是行切还是列切，通信分别是什么算子；
- 07
预训练和sft loss、数据集有什么区别；
- 08
预训练优化，介绍流水线并行，说明一下1f1b，dualpipe；
- 09
说一下DeepSeek论文里觉得印象深刻的点（fp8训练）；
- 10
介绍一下vllm/sglang里的continuous batching；