性能、时延与成本

本分类共 10 个专题 · 1909 道题

已筛选

共 114 道题

排序:

1983
完成一次问题查找和故障归因通常消耗多少 Token?
AI 应用工程与治理性能、时延与成本
项目深挖
进阶
2228
全量开放 Agent 时如何承担推理和成本压力,是否探索低成本模型?
AI 应用工程与治理性能、时延与成本
系统设计
进阶
2453
线上流量如何控制和回放?
AI 应用工程与治理性能、时延与成本
方案设计
进阶
2565
服务降本方案是什么,耗时下降的原因是什么?
AI 应用工程与治理性能、时延与成本
项目深挖
进阶
2896
如何核算硬件、算力和人工等完整方案成本?
AI 应用工程与治理性能、时延与成本
效果评估
进阶
3084
原 Agent 项目 Token 用量统计有哪些问题,子 Agent 和工具统计为何缺失?
AI 应用工程与治理性能、时延与成本
项目深挖
进阶
3156
Cron 任务整点集中拉取导致过载时怎么办?
AI 应用工程与治理性能、时延与成本
方案设计
进阶
3490
电商大促出现流量尖刺时,客服 Agent 服务如何应对?
AI 应用工程与治理性能、时延与成本
方案设计
进阶
3767
CTO 要求把每个 PR 的 review 成本控制在 0.05 以内,但架构 Agent 单次调用就要 0.08。怎么办?
AI 应用工程与治理性能、时延与成本
方案设计
深入
3951
使用模型为检索结果打分导致 RAG 成本过高时如何优化?
AI 应用工程与治理性能、时延与成本
方案设计
进阶