AI Infra 面试指南
一次训练吞吐突然下降 30%，你按什么顺序排查？
原题MoE 的某些 expert 持续过载，如何定位并治理？
原题如何为长短请求混合的在线服务设计调度器？
原题Prefix cache 命中率高，但 P99 变差，可能是什么原因？
原题如何在成本不增加的前提下提高满足 SLO 的 goodput？
原题设计一个支持多租户、配额、抢占和故障恢复的 GPU 平台。
原题Agent 执行大量外部工具时，GPU 为什么会空等？怎样解耦？
原题如何证明一次优化没有以输出质量或稳定性为代价？
原题
暂无题目