返回全部题目← 上一题42 / 74下一题 →题库/AI 应用工程与治理/Q-3658模型推理速度慢时，应该如何定位原因？知识专题：性能、时延与成本题目类型：故障排查技术难度：进阶相关面经：1 篇题集来源：3 个未标记未标记待复习已掌握收藏反馈（在 GitHub 新标签页打开）Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~问 AIKimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）本题目录相关面经收录题集相关题目相关面经1 篇阿里巴巴大模型算法工程师2026-07-17查看原面经 →模型推理慢排查思路收录题集3 个来源，共6 份题集AI Infra 面试指南阿东玩 AI · AgentGuide · 1 条原题查看题集 →Prefix cache 命中率高，但 P99 变差，可能是什么原因？快手高频面试题Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →是否部署过小模型？低时延怎么做，重点问prefill阶段模型部署精华 · 大模型部署技术Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →推理速度突然变慢或延迟抖动，通常从哪些方向排查？模型部署精华 · 性能分析与调优工具Rocky Ding · AIGC-Interview-Book · 3 条原题查看题集 →TTFT、TPOT、ITL、吞吐量分别衡量什么？如何定位 Prefill 慢和 Decode 慢的不同根因？（进阶）Continuous Batching 的调度效率如何分析？Running/Max Batch Size 占比、Queue Time 突增意味着什么？（进阶）遇到线上推理性能退化，如何快速定位瓶颈层级（模型/框架/算子/硬件/调度）并给出优化决策树？AI Infra：训练、推理与 GPU 平台工程Onefly · zero2Agent · 1 条原题查看题集 →GPU 利用率很低，但请求延迟很高，怎么排查？展开剩余 1 份题集训练、数据与模型优化：从数据清洗到 LoRAOnefly · zero2Agent · 1 条原题查看题集 →模型推理慢，排查思路是什么？相关题目4 题0054Agent 上线后延迟或吞吐不达标时，如何优化执行效率？同一知识专题题目类型：方案设计技术难度：进阶相关面经：8 篇0362多用户调用 API、任务增多导致卡死时如何设计系统？同一知识专题题目类型：方案设计技术难度：进阶相关面经：1 篇0824模型 RPC 耗时长时，如何设计同步与异步链路？同一知识专题题目类型：方案设计技术难度：进阶相关面经：2 篇0859如何把单个视频生成耗时从 30 分钟缩短至 5 分钟？同一知识专题题目类型：项目深挖技术难度：进阶相关面经：1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题为什么 Claude Code 使用时间越长，响应越慢？下一题 →RAG 系统的性能优化方法有哪些？
