分布式训练与计算硬件

本分类共 9 个专题 · 704 道题

已筛选

共 114 道题

排序:

5034
如何为大模型推理选择 GPU?
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
5035
CUDA Kernel 如何在 GPU 上执行?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
5036
Google TPU 如何加速深度学习计算?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
5037
Groq LPU 的架构如何支持语言模型推理?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
5038
如何用 Roofline 模型估算 70B 模型在单张 H100 上、批量为 1 时的解码吞吐?
模型训练与对齐分布式训练与计算硬件
原理机制
深入
5212
如何根据训练 FLOPs、硬件利用率和资源价格估算大模型训练周期与项目成本?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
5217
如何优化预训练数据加载管线,避免 GPU 等待输入?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
5309
如何估算强化学习训练所需的模型规模、GPU 数量和训练时长?
模型训练与对齐分布式训练与计算硬件
方案设计
深入
5590
Ray 如何调度任务,并处理 Worker、节点和对象故障?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
5599
如何用 Roofline 与性能剖析定位和优化 GPU 算子瓶颈?
模型训练与对齐分布式训练与计算硬件
故障排查
深入