AI系统与训练推理工程
【大规模AI集群稳定性与SLA】如何保证大规模AI集群的稳定性和SLA？ 「腾讯」
原题【大规模RLHF训练瓶颈与优化】请说明在分布式训练环境下，进行大规模RLHF训练可能遇到的技术瓶颈及优化策略。 「蚂蚁集团」
原题【大规模分布式训练系统设计】如何设计一个大规模分布式训练系统?如果你需要设计一个支持大规模模型训练的分布式训练框架，你会考虑哪些关键因素？ 「京东、蚂蚁集团」
原题【训练任务调度系统设计】如何设计一个高效的AI训练任务调度系统，确保资源利用率最大化？ 「京东」
原题【负载均衡调度】AI 训练任务的资源调度常面临“负载不均衡”问题(如部分 GPU 利用率 90%，部分仅 30%)。请分析负载不均衡的常见原因(如任务拆分、数据倾斜、通信等待)，并说明如何设计调度算法(如动态任务迁移、负载预测)进行优化？ 「腾讯」
原题【跨地域AI训练】多集群管理方案，如何实现跨地域AI训练？并说明面临的带宽时延与数据同步一致性问题。 「腾讯、腾讯混元」
原题【并行策略】了解哪些并行策略？解释张量并行和流水线并行的区别。另外，多头多batch如何并行？头和batch之间无关，直接并行，算完再拼起来。了解CP吗？ 「字节Seed、腾讯、阿里巴巴」
原题【并行策略选择】并行策略TP、PP、SP的使用场景及如何选择？训练时如何选择TP/PP等分布式策略？ 「字节跳动、阿里巴巴」
原题【MoE并行】手撕：MoE并行处理。 「阿里通义」
原题【并行策略优化】针对多模态推理时的显存瓶颈，有哪些模型并行或Pipeline并行的优化手段？ 「腾讯」
原题
暂无题目