性能、时延与成本

本分类共 10 个专题 · 1193 道题

3116

剪辑系统从百级扩到千级并发，服务、存储、队列和模型如何扩容？

AI 应用工程与治理性能、时延与成本

系统设计

深入

1 篇面经 1 个题集来源

4033

搜索链路的 P99 延迟应如何定位、优化并验证？

AI 应用工程与治理性能、时延与成本

故障排查

深入

1 篇面经 1 个题集来源

4262

如何优化大模型应用的首 Token 延迟？

AI 应用工程与治理性能、时延与成本

方案设计

进阶

1 篇面经 1 个题集来源

4353

如何计算 Agent 每条消息及会话的 Token 数量？

AI 应用工程与治理性能、时延与成本

原理机制

进阶

4662

实时语音 Agent 的端到端延迟来自哪些环节，如何定位与优化？

AI 应用工程与治理性能、时延与成本

故障排查

进阶

暂无面经 2 个题集来源

1053

用 LLM 替代关键词判断但成本很高时，如何取舍？

AI 应用工程与治理性能、时延与成本

方案设计

进阶

1408

飞书表格慢在模型还是数据导入，如何优化？

AI 应用工程与治理性能、时延与成本

故障排查

进阶

1509

模型成本、人工成本和效果如何平衡？

AI 应用工程与治理性能、时延与成本

比较选型

进阶

1554

查询慢如何向用户反馈？

AI 应用工程与治理性能、时延与成本

方案设计

基础

1851

用户输入过长超出运行资源承受范围时，除限制输入外有哪些工程优化？

AI 应用工程与治理性能、时延与成本

方案设计

进阶