AI Infra:训练、推理与 GPU 平台工程
如果让你设计一个生产级 AI Infra 平台,你会怎么拆?
原题分布式训练为什么容易失败,如何恢复?
原题GPU 利用率很低,但请求延迟很高,怎么排查?
原题GPU 上的同步方法代码可能有哪些问题,如何排查?
原题原题未附具体同步代码。
GPU 峰值性能、计算单元与寄存器等硬件参数如何影响算子性能?
原题Nsight Compute(ncu)和 Nsight Systems(nsys)有什么区别?分别适合分析什么问题?
原题推测解码中如何生成树状候选草稿?
原题SIMD 与 RVV 向量化计算如何处理尾部元素?
原题GPU 调度和普通 CPU 调度有什么不同?
原题
暂无题目