大模型基础面试题
Token 是什么？为什么中文、英文、代码消耗的 Token 不一样？
原题上下文窗口是什么？上下文窗口越大，效果一定越好吗？
原题什么是 Lost in the Middle 问题？长上下文场景下怎么缓解？
原题Temperature、Top-P、Top-K 分别控制什么？生产环境怎么设置更稳？
原题为什么 Temperature 设置为 0，模型输出仍然可能不完全一致？
原题大模型为什么会产生幻觉？常见缓解方案有哪些？
原题Token 预算怎么估算？输入、输出、历史消息、RAG 证据如何取舍？
原题长上下文窗口会不会取代 RAG？二者分别适合什么场景？
原题大模型 API 调用的完整链路是什么？
原题Streaming 为什么能改善用户体验？它能减少总耗时和 Token 成本吗？
原题SSE、WebSocket、HTTP Chunked 在流式输出场景下怎么选？
原题哪些大模型 API 错误可以重试？哪些错误不能重试？
原题为什么大模型调用必须做幂等？
原题大模型限流为什么不能只按 QPS 做？
原题模型网关通常要承担哪些能力？
原题AI 应用的调用日志里至少要记录哪些字段？
原题为什么只写“请返回 JSON”不可靠？
原题JSON Mode 和 Structured Outputs 有什么区别？
原题JSON Schema 在大模型应用里解决什么问题？
原题Function Calling 的完整链路是什么？
原题Function Calling 和 MCP 有什么区别？
原题MCP Tool 和普通 HTTP API 有什么关系？
原题Agent Skill 和 Function Calling 是一回事吗？
原题结构化输出失败后怎么处理？
原题工具调用为什么必须做安全治理？
原题面试里怎么一句话概括结构化输出？
原题为什么不能只靠公开 benchmark 评估 AI 应用质量？
原题Golden Set 应该怎么构建？冷启动阶段没有生产日志怎么办？
原题LLM-as-Judge 有哪些主要偏差？怎么缓解？
原题RAG 评测为什么必须分检索和生成两段？
原题Agent 评测为什么比普通问答和 RAG 更复杂？
原题离线评测、Trace 回放、线上灰度分别解决什么问题？
原题CI 里的 AI 评测如何平衡速度和覆盖度？
原题如果 LLM-as-Judge 和人工评测结果不一致，应该怎么处理？
原题客服机器人历史会话持续增长时，如何分配 Token 预算并保留关键业务状态？
原题流式响应中途断开后，服务端如何处理重试、续传和重复计费问题？
原题上游模型触发 RPM 或 TPM 限制时，模型网关如何排队、降级或切换模型？
原题模型生成退款工具的调用参数后，业务系统还需要执行哪些校验？
原题更换模型或修改 Prompt 后，如何用离线评测、Trace 回放和线上灰度验证效果？
原题
暂无题目