真面经，好答案。面试之前，先来面栈。

分布式训练与计算硬件

本分类共 9 个专题 · 1113 道题

已筛选

共 235 道题

排序：

6098
实现使用 FSDP 的训练步骤。
模型训练与对齐分布式训练与计算硬件
代码题
深入
暂无面经1 个题集来源
6363
统一内存架构如何影响 Apple Silicon 上的大模型推理？
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
暂无面经1 个题集来源
6371
光子计算可能如何影响大模型推理，有哪些系统限制？
模型训练与对齐分布式训练与计算硬件
原理机制
深入
暂无面经1 个题集来源
6855
训练状态的 CPU 或 NVMe 卸载如何节省显存，有哪些代价？
模型训练与对齐分布式训练与计算硬件
原理机制
深入
暂无面经1 个题集来源
6859
FSDP1 与 FSDP2 的分片表示和执行接口有什么区别？
模型训练与对齐分布式训练与计算硬件
比较选型
深入
暂无面经1 个题集来源
6860
Gang Scheduling 为什么适合多进程训练，如何处理部分启动和资源碎片？
模型训练与对齐分布式训练与计算硬件
原理机制
深入
暂无面经1 个题集来源
6861
工作窃取如何平衡并行任务负载，在分布式训练中有哪些适用边界？
模型训练与对齐分布式训练与计算硬件
原理机制
深入
暂无面经1 个题集来源
6862
同步与异步分布式训练如何更新参数，怎样控制梯度陈旧性？
模型训练与对齐分布式训练与计算硬件
比较选型
深入
暂无面经1 个题集来源
6863
自动并行如何搜索模型的切分与执行策略，有哪些优势和限制？
模型训练与对齐分布式训练与计算硬件
原理机制
深入
暂无面经1 个题集来源
6864
Volcano 与 Kueue 如何支持 AI 作业排队、准入和资源调度？
模型训练与对齐分布式训练与计算硬件
比较选型
深入
暂无面经1 个题集来源