真面经，好答案。面试之前，先来面栈。

性能、时延与成本

本分类共 10 个专题 · 1023 道题

已筛选

共 66 道题

排序：

4261
大模型应用的首 Token 延迟达到多少算合理，如何制定目标？
AI 应用工程与治理性能、时延与成本
效果评估
进阶
1 篇面经
4262
如何优化大模型应用的首 Token 延迟？
AI 应用工程与治理性能、时延与成本
方案设计
进阶
1 篇面经1 份题集
4353
如何计算 Agent 每条消息及会话的 Token 数量？
AI 应用工程与治理性能、时延与成本
原理机制
进阶
1 篇面经
4386
图片和视频生成耗时较长时，如何减少用户等待并改善体验？
AI 应用工程与治理性能、时延与成本
方案设计
进阶
1 篇面经
3767
CTO 要求把每个 PR 的 review 成本控制在 0.05 以内，但架构 Agent 单次调用就要 0.08。怎么办？
AI 应用工程与治理性能、时延与成本
方案设计
深入
暂无面经1 份题集
4597
什么是大模型推理时延，为什么它对应用重要？
AI 应用工程与治理性能、时延与成本
概念解释
基础
暂无面经1 份题集
4618
如何测量和评价大模型推理性能？
AI 应用工程与治理性能、时延与成本
效果评估
进阶
暂无面经7 份题集
4642
大模型 API 为什么需要同时限制 RPM、TPM、并发数和租户预算？
AI 应用工程与治理性能、时延与成本
方案设计
进阶
暂无面经5 份题集
4654
LLM Gateway 的延迟开销如何衡量，哪些处理应放在请求关键路径？
AI 应用工程与治理性能、时延与成本
方案设计
进阶
暂无面经2 份题集
4662
实时语音 Agent 的端到端延迟来自哪些环节，如何定位与优化？
AI 应用工程与治理性能、时延与成本
故障排查
进阶
暂无面经3 份题集