分布式训练与计算硬件

本分类共 9 个专题 · 1113 道题

已筛选

共 235 道题

排序:

16564
GPU 统一虚拟地址与显式 Host/Device 内存管理有什么区别?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
16697
GPU 的 SM 尚未用满时,增大矩阵乘法规模为什么仍会增加延迟?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
16698
除了计算和访存,GPU 工作负载还可能受哪些因素限制,怎样识别?
模型训练与对齐分布式训练与计算硬件
故障排查
进阶
16738
NHWC 与 NCHW 数据布局有什么差异,训练和推理时怎样选择?
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
16739
什么情况下 CUDA 共享内存收益较低,应该调整或关闭使用?
模型训练与对齐分布式训练与计算硬件
技术决策
进阶
16740
特定 Shape 下 CUDA 共享内存计算结果异常,怎样定位?
模型训练与对齐分布式训练与计算硬件
故障排查
进阶
16741
CUDA Stream 怎样组织异步执行,重叠执行需要满足什么条件?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
16743
NPU 开发有哪些常见难点,怎样选择调试和优化策略?
模型训练与对齐分布式训练与计算硬件
开放讨论
—
16744
并行实现 Softmax 时,怎样处理负载不均衡?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
16792
CUDA 局部变量怎样分配到寄存器,资源不足时会怎样影响执行?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶