真面经，好答案。面试之前，先来面栈。

分布式训练与计算硬件

本分类共 9 个专题 · 704 道题

已筛选

共 114 道题

排序：

5600
分布式训练的集合通信量如何估算，怎样实现计算通信重叠？
模型训练与对齐分布式训练与计算硬件
原理机制
深入
暂无面经3 份题集
5603
训练流水线并行的空泡如何形成，常见前后向调度如何减少它？
模型训练与对齐分布式训练与计算硬件
原理机制
深入
暂无面经2 份题集
5604
MoE 专家并行如何组织 Dispatch、专家计算与 Combine，并优化负载和通信？
模型训练与对齐分布式训练与计算硬件
原理机制
深入
暂无面经6 份题集
5607
CUDA、Triton、CUTE 与 MLIR 位于哪些抽象层，如何选择算子开发路径？
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
暂无面经4 份题集
5608
训练与推理引擎的核心模块和运行时职责有什么区别？
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
暂无面经3 份题集
5610
GPU 异步执行中的同步错误和性能串行化应如何排查？
模型训练与对齐分布式训练与计算硬件
故障排查
进阶
暂无面经3 份题集
5611
Nsight Systems 与 Nsight Compute 有什么区别，如何配合性能排查？
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
暂无面经3 份题集
5613
GPU 集群任务调度与普通 CPU 资源调度有什么区别？
模型训练与对齐分布式训练与计算硬件
比较选型
深入
暂无面经4 份题集
5743
什么是 GPU 显存带宽？
模型训练与对齐分布式训练与计算硬件
概念解释
基础
暂无面经1 份题集
5746
什么是异构计算，如何组织不同处理器协同？
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
暂无面经1 份题集