AI系统与训练推理工程
【资源隔离】怎么做的资源隔离？ 「腾讯」
原题【集合通信与开销】通信(reduce、gather、开销考虑)与通信开销比？额外开销有多大？高到什么程度？ 「字节Seed、腾讯」
原题【3D并行设计】如何设计模型训练的3D并行（DP、PP、TP）？假设有超多的8卡A100节点（DGX A100），如何应用3D并行策略？你是如何分配DP、PP、TP的？ 「字节跳动、腾讯混元、阿里通义」
原题【AI调度器对比】Volcano与Kueue调度器在AI负载排队与抢占策略上的区别及适用场景？ 「腾讯混元」
原题【ColossalAI对比】Colossal细节和DS/Megatron比如何？ 「字节Seed」
原题【FSDP与HSDP通信对比】4机32卡H200训练从FSDP换成HSDP，通信时间会减少多少？ 「字节跳动」
原题【FSDP与Megatron对比】FSDP vs Megatron? 为什么选FSDP不选Megatron？为什么选Megatron不选FSDP？ 「蚂蚁集团」
原题【FSDP与ZeRO-3比较】如果同样是“把显存问题拆开”，应如何比较 FSDP 和 ZeRO-3? 「字节跳动」
原题【GPU亲和性与拓扑调度】GPU亲和性调度如何实现，拓扑感知调度的核心挑战？ 「腾讯」
原题【GRPO训练加速】你使用框架训练 GRPO 时，有没有针对性做训练加速相关优化？ 「阿里巴巴」
原题
暂无题目