真面经，好答案。面试之前，先来面栈。

分布式训练与计算硬件

本分类共 9 个专题 · 761 道题

已筛选

共 126 道题

排序：

0032
GPU 的存储层次和计算单元如何组织？
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
6 篇面经4 个题集来源
0170
ZeRO-1、ZeRO-2 和 ZeRO-3 有何区别？
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
5 篇面经3 个题集来源
0035
大模型计算中的流水线并行和张量并行如何工作？
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
2 篇面经4 个题集来源
0904
是否做过分布式训练，常见的模型并行方式有哪些？
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
2 篇面经4 个题集来源
1433
什么是算子融合？
模型训练与对齐分布式训练与计算硬件
原理机制
基础
3 篇面经3 个题集来源
1853
模型训练或推理显存不足时有哪些优化方法？
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
2 篇面经4 个题集来源
4686
FP16、BF16 与 FP32 有什么区别，训练时如何选择？
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
2 篇面经4 个题集来源
4883
数据并行训练如何工作，怎样提高其效率？
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
1 篇面经5 个题集来源
0526
轨迹模型训练使用多少计算资源？
模型训练与对齐分布式训练与计算硬件
项目深挖
进阶
3 篇面经2 个题集来源
1432
做过哪些算子优化，熟悉哪些框架？
模型训练与对齐分布式训练与计算硬件
经历介绍
—
3 篇面经2 个题集来源