已筛选

共 6433 道题

排序:

5600
分布式训练的集合通信量如何估算,怎样实现计算通信重叠?
模型训练与对齐分布式训练与计算硬件
原理机制
深入
5601
在线推理请求被抢占后,如何恢复计算和 KV 状态?
模型基础与推理推理优化与模型压缩
原理机制
进阶
5602
低精度浮点与整数量化在表示、缩放和硬件执行上有什么区别?
模型基础与推理推理优化与模型压缩
比较选型
进阶
5603
训练流水线并行的空泡如何形成,常见前后向调度如何减少它?
模型训练与对齐分布式训练与计算硬件
原理机制
深入
5604
MoE 专家并行如何组织 Dispatch、专家计算与 Combine,并优化负载和通信?
模型训练与对齐分布式训练与计算硬件
原理机制
深入
5606
CUDA Graph 如何降低推理提交开销,对形状和显存有什么要求?
模型基础与推理推理优化与模型压缩
原理机制
进阶
5607
CUDA、Triton、CUTE 与 MLIR 位于哪些抽象层,如何选择算子开发路径?
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
5608
训练与推理引擎的核心模块和运行时职责有什么区别?
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
5609
如何设计覆盖训练、模型服务与算力治理的生产 AI Infra 平台?
AI 应用工程与治理模型服务、部署与交付
系统设计
深入
5610
GPU 异步执行中的同步错误和性能串行化应如何排查?
模型训练与对齐分布式训练与计算硬件
故障排查
进阶