模型接口与评测问答题集来源:Guide(Snailclimb)收录项目:JavaGuide查看原题集 题目目录49 道原题隐藏关联题目排序默认排序面经最多01一次生产级 LLM 调用包含哪些阶段?原题 关联题目大模型 API 调用的端到端链路包括哪些环节?AI 应用工程与治理 / AI 应用架构与接口原理机制基础0篇相关面经02同步返回和流式返回有什么区别?原题 关联题目为什么采用流式传输模型回答?AI 应用工程与治理 / AI 应用架构与接口比较选型基础1篇相关面经03为什么 Streaming 能降低 TTFT?原题 关联题目为什么采用流式传输模型回答?AI 应用工程与治理 / AI 应用架构与接口比较选型基础1篇相关面经04SSE、WebSocket 和 HTTP chunked 这三种流式协议怎么选原题 关联题目SSE、WebSocket、普通 HTTP 与长短轮询有什么区别?已有答案软件工程基础 / 消息队列与实时通信比较选型进阶15篇相关面经05模型正文包含换行时怎么处理原题 关联题目SSE 如何工作?软件工程基础 / 消息队列与实时通信原理机制进阶2篇相关面经06哪些错误能重试,哪些不能重试?原题 关联题目模型 API 调用错误如何分类,哪些应重试、退避或直接失败?AI 应用工程与治理 / 可观测性、稳定性与故障诊断故障排查进阶2篇相关面经07为什么要限流?如何限流?原题 关联题目大模型 API 为什么需要同时限制 RPM、TPM、并发数和租户预算?AI 应用工程与治理 / 性能、时延与成本方案设计进阶0篇相关面经08为什么 Token 预算比请求数更重要原题 关联题目大模型 API 为什么需要同时限制 RPM、TPM、并发数和租户预算?AI 应用工程与治理 / 性能、时延与成本方案设计进阶0篇相关面经09收到 429 应该怎么处理原题 关联题目模型 API 调用错误如何分类,哪些应重试、退避或直接失败?AI 应用工程与治理 / 可观测性、稳定性与故障诊断故障排查进阶2篇相关面经10为什么要结构化返回?原题 关联题目什么是大模型结构化输出?AI 应用工程与治理 / Prompt 与结构化输出概念解释基础0篇相关面经暂无题目共 49 道原题 · 显示 1–10 道展开全部49题上一页123451 / 5下一页