真面经，好答案。面试之前，先来面栈。

性能、时延与成本

本分类共 10 个专题 · 1193 道题

已筛选

共 74 道题

排序：

1698
项目的响应时间大约是多少？
AI 应用工程与治理性能、时延与成本
项目深挖
进阶
4 篇面经
2312
怎样在保证 Agent 效果的同时加速推理？
AI 应用工程与治理性能、时延与成本
方案设计
进阶
3 篇面经1 个题集来源
3119
模型调用如何缓存，缓存键和失效策略怎样设计？
AI 应用工程与治理性能、时延与成本
方案设计
进阶
2 篇面经2 个题集来源
3658
模型推理速度慢时，应该如何定位原因？
AI 应用工程与治理性能、时延与成本
故障排查
进阶
1 篇面经3 个题集来源
3778
Agent 的 Cost Tracking（Token 消耗 + API 调用费用）如何在任务粒度上实现？
AI 应用工程与治理性能、时延与成本
方案设计
进阶
1 篇面经3 个题集来源
3880
AI 应用突发上千并发用户时，系统最先可能出现哪些瓶颈？
AI 应用工程与治理性能、时延与成本
系统设计
进阶
2 篇面经2 个题集来源
3977
模型服务如何权衡响应速度、回答准确性与调用成本？
AI 应用工程与治理性能、时延与成本
比较选型面前必看
进阶
1 篇面经3 个题集来源
0362
多用户调用 API、任务增多导致卡死时如何设计系统？
AI 应用工程与治理性能、时延与成本
方案设计
进阶
1 篇面经2 个题集来源
0824
模型 RPC 耗时长时，如何设计同步与异步链路？
AI 应用工程与治理性能、时延与成本
方案设计
进阶
2 篇面经1 个题集来源
1817
如何设计 Prompt 提高缓存命中率并降低调用成本？
AI 应用工程与治理性能、时延与成本
方案设计
进阶
3 篇面经