AI Infra:训练、推理与 GPU 平台工程

题集来源:Onefly(ranxi2001)收录项目:zero2Agent查看原题集

题目目录

39 道原题
  1. 如果让你设计一个生产级 AI Infra 平台,你会怎么拆?

    原题
  2. 分布式训练为什么容易失败,如何恢复?

    原题
  3. GPU 利用率很低,但请求延迟很高,怎么排查?

    原题
  4. GPU 上的同步方法代码可能有哪些问题,如何排查?

    原题

    原题未附具体同步代码。

  5. GPU 峰值性能、计算单元与寄存器等硬件参数如何影响算子性能?

    原题
  6. Nsight Compute(ncu)和 Nsight Systems(nsys)有什么区别?分别适合分析什么问题?

    原题
  7. 推测解码中如何生成树状候选草稿?

    原题
  8. SIMD 与 RVV 向量化计算如何处理尾部元素?

    原题
  9. GPU 调度和普通 CPU 调度有什么不同?

    原题