分布式训练与计算硬件

本分类共 9 个专题 · 1113 道题

已筛选

共 235 道题

排序:

15919
NVIDIA GPU 为 FP8 计算提供了哪些硬件优化?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
15922
你如何看待 AI 计算硬件形态的未来演进?
模型训练与对齐分布式训练与计算硬件
开放讨论
—
15923
硬件如何支持低精度量化计算,需要哪些能力?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
15925
多头、多 Batch 的注意力计算如何在 GPU 上并行?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
15926
大语言模型在 NPU 上推理时,主要性能瓶颈在哪里?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
15927
Prefill 与 Decode 阶段的矩阵乘应如何分别优化?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
15929
昇腾 NPU 的架构如何适配 Transformer 计算,有哪些优化条件?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
15931
NPU 为什么适合 AI 计算,片上缓冲和矩阵单元如何发挥作用?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
15933
为什么设计 Warp,Warp Scheduler 如何隐藏访存延迟?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
15935
GPU 上如何组织大规模 Reduction 的多级归约?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶