模型接口与评测问答
一次生产级 LLM 调用包含哪些阶段？
原题同步返回和流式返回有什么区别？
原题为什么 Streaming 能降低 TTFT？
原题SSE、WebSocket 和 HTTP chunked 这三种流式协议怎么选
原题模型正文包含换行时怎么处理
原题哪些错误能重试，哪些不能重试？
原题为什么要限流？如何限流？
原题为什么 Token 预算比请求数更重要
原题收到 429 应该怎么处理
原题为什么要结构化返回？
原题JSON Mode、JSON Schema 和 Structured Output 的区别
原题结构化输出失败后如何兜底
原题Java 后端怎么落地 LLM 调用？
原题为什么公开 benchmark 不够用？
原题一条评测用例里有什么？
原题Golden Set 怎么构建？
原题数据从哪来？
原题无法穷举 Case，怎么扩展覆盖？
原题多少条够用？
原题“多少条”指起步评测集的样本条数。
评测工具怎么选？
原题LLM-as-Judge 怎么用才可靠？
原题Judge Prompt 怎么写？
原题RAG 应用怎么评测？
原题Agent 应用怎么评测？
原题时间和外部环境一直变化，怎么评？
原题Skill 怎么单独评？
原题评测 Harness 怎么搭？
原题结构化输出怎么评测？
原题怎么评判灰度组输出？
原题阈值怎么定？
原题“阈值”指评测指标的发布门槛。
速度和覆盖度怎么平衡？
原题Token 和上下文为什么决定成本与效果？
原题采样参数如何影响输出稳定性？
原题落地时保留哪些数据
原题为什么“请返回 JSON”不可靠？
原题怎样把 JSON 从格式要求变成工程契约？
原题JSON Mode 只能保证什么？
原题JSON Schema 负责定义什么？
原题Structured Outputs 能前移哪些约束？
原题Function Calling 到底调用了什么？
原题为什么需要工具调用意图？
原题Function Calling、MCP Tool、HTTP API、Agent Skill 是什么关系？
原题Function Calling 如何映射到 HTTP API？
原题MCP Tool 解决的是哪一层标准化？
原题Agent Skill 为什么不是 Function Calling 的语法糖？
原题什么时候该用 Structured Outputs，什么时候该上工具？
原题结构化输出怎么工程化落地？
原题工具调用安全怎么保证？
原题上线前应该检查哪些工程细节？
原题
暂无题目