AI系统与训练推理工程
【分布式训练实现方式】通过配置文件实现分布式训练还是手搓代码？ 「腾讯」
原题【分布式训练常见问题】分布式训练遇到过什么问题？ 「字节跳动」
原题【分布式训练框架概览与选型】你了解哪些分布式训练框架？如何选择分布式训练框架？请结合你使用过的分布式训练方法或框架，说明在构建大规模并行训练系统时，如何进行框架选型？你了解或熟练使用过哪些训练框架？请列举，例如Megatron、DeepSpeed等。 「京东、腾讯、腾讯混元、阿里巴巴」
原题【分布式训练通信协议】大模型分布式训练的通信协议？ 「阿里通义」
原题【大模型并行方式】知道哪些大模型加速方式，数据并行、模型并行、序列并行等？简单介绍一些你知道的大模型并行方式。 「字节Seed」
原题【并行化动机】为什么要做并行化/并行化/并行策略？ 「字节Seed、字节跳动」
原题【批量化数据特征】什么样特征的数据可以被批量化处理？ 「字节Seed」
原题【数据并行原理与优缺点】解释数据并行(DataParallelism)的工作原理及其优缺点。 「蚂蚁集团」
原题【数据量扩大应对策略】如果数据量扩大怎么办？ 「字节跳动」
原题【梯度累加原理】梯度累加的原理是什么？ 「阿里巴巴」
原题
暂无题目