分布式训练与计算硬件

本分类共 9 个专题 · 761 道题

已筛选

共 126 道题

排序:

2491
4B 模型推理时的显存占用是多少,如何估算?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
2837
显存受限时如何选择模型训练方案?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
4500
训练百亿至千亿参数大模型时,会面临哪些主要工程和算法挑战?
模型训练与对齐分布式训练与计算硬件
系统设计
深入
5599
如何用 Roofline 与性能剖析定位和优化 GPU 算子瓶颈?
模型训练与对齐分布式训练与计算硬件
故障排查
深入
5605
CPU、GPU 与 NPU 的架构和训练推理适用条件有什么区别?
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
0030
DCU 与 GPU 有什么区别?
模型训练与对齐分布式训练与计算硬件
比较选型已有答案
进阶
0031
SIMT 有什么特点,遇到分支会发生什么?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
0629
模型训练的显存由哪些部分占用?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
1850
是否遇到 memory、data 或 CPU/GPU bound,发生在训练还是推理?
模型训练与对齐分布式训练与计算硬件
项目深挖
进阶
3478
是否使用过 DeepSpeed、DDP 等分布式训练框架?
模型训练与对齐分布式训练与计算硬件
经历介绍
—