性能、时延与成本

本分类共 10 个专题 · 1023 道题

5056

为 LLM 响应实现缓存层。

AI 应用工程与治理性能、时延与成本

代码题

进阶

暂无面经 1 份题集

5060

实现按 Token 计费的分布式令牌桶限流器。

AI 应用工程与治理性能、时延与成本

代码题

深入

暂无面经 1 份题集

5668

视觉压缩与视觉语言解耦部署如何协同提高多模态推理效率？

AI 应用工程与治理性能、时延与成本

原理机制

进阶

暂无面经 1 份题集

6369

LLM 服务中的 Goodput 如何定义和测量？

AI 应用工程与治理性能、时延与成本

效果评估

进阶

暂无面经 1 份题集

6612

如何设计大模型 API 的输入、输出与上下文计费方案？

AI 应用工程与治理性能、时延与成本

方案设计

进阶

暂无面经 1 份题集

6825

Agent 沙箱调度如何与 Kubernetes 等基础设施调度协同？

AI 应用工程与治理性能、时延与成本

系统设计

深入

暂无面经 1 份题集