真面经，好答案。面试之前，先来面栈。

分布式训练与计算硬件

本分类共 9 个专题 · 704 道题

已筛选

共 114 道题

排序：

6096
实现跨设备分块与环形 KV 传递的 Ring Attention。
模型训练与对齐分布式训练与计算硬件
代码题
深入
暂无面经1 份题集
6097
实现张量并行的 MLP。
模型训练与对齐分布式训练与计算硬件
代码题
深入
暂无面经1 份题集
6098
实现使用 FSDP 的训练步骤。
模型训练与对齐分布式训练与计算硬件
代码题
深入
暂无面经1 份题集
6249
实现 CUDA 向量加法 Kernel。
模型训练与对齐分布式训练与计算硬件
代码题
进阶
暂无面经2 份题集
6250
实现指定轴的 CUDA 归约并优化块内与跨块计算。
模型训练与对齐分布式训练与计算硬件
代码题
深入
暂无面经2 份题集
6252
实现并优化 CUDA GEMM Kernel。
模型训练与对齐分布式训练与计算硬件
代码题
深入
暂无面经3 份题集
6363
统一内存架构如何影响 Apple Silicon 上的大模型推理？
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
暂无面经1 份题集
6371
光子计算可能如何影响大模型推理，有哪些系统限制？
模型训练与对齐分布式训练与计算硬件
原理机制
深入
暂无面经1 份题集
6854
Ring 与 Tree AllReduce 如何组织规约，怎样权衡带宽和时延？
模型训练与对齐分布式训练与计算硬件
原理机制
深入
暂无面经1 份题集
6855
训练状态的 CPU 或 NVMe 卸载如何节省显存，有哪些代价？
模型训练与对齐分布式训练与计算硬件
原理机制
深入
暂无面经1 份题集