真面经，好答案。面试之前，先来面栈。

分布式训练与计算硬件

本分类共 9 个专题 · 1113 道题

已筛选

共 235 道题

排序：

1425
跨 NUMA 导致性能下降如何调优，如何使用 OpenMP？
模型训练与对齐分布式训练与计算硬件
故障排查
进阶
1 篇面经
1429
Stall 有哪些类型，如何定位原因？
模型训练与对齐分布式训练与计算硬件
故障排查
进阶
1 篇面经
15895
如何优化模型训练中的访存开销？
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
1 篇面经
15897
项目中的 KL 散度算子做过哪些优化？
模型训练与对齐分布式训练与计算硬件
项目深挖
进阶
1 篇面经
15901
AI Infra 当前有哪些值得关注的前沿技术或方向？
模型训练与对齐分布式训练与计算硬件
开放讨论
—
1 篇面经
15902
cudaMemcpy 传输时为什么可能需要锁定主机内存？
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
1 篇面经
15907
计算 32×32 矩阵求和时，如何安排访问方式以实现合并访存？
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
1 篇面经
15913
DualPipe 的原理是什么，如何安排流水线中的计算与通信？
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
1 篇面经
15914
CUDA 中跨 Block 通信有哪些方式，Warp 原语如何用于线程间交换？
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
1 篇面经
15916
CUDA 代码从编写到 GPU 执行经历怎样的编译流程？
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
1 篇面经