AI 机制与工程问答
大模型 API 调用的完整链路是什么
原题Streaming 为什么能改善体验
原题SSE 和 WebSocket 怎么选
原题哪些大模型 API 错误可以重试
原题哪些大模型调用需要做幂等
原题限流为什么不能只按 QPS
原题JSON Mode 和 Structured Outputs 有什么区别
原题流式结构化返回怎么处理
原题为什么不能只靠公开 benchmark 评估 AI 应用质量?
原题Golden Set 应该怎么构建?
原题LLM-as-Judge 有哪些主要偏差,怎么缓解?
原题RAG 评测为什么必须分检索和生成两段?
原题Agent 评测为什么比 RAG 更复杂?
原题离线评测、Trace 回放、线上灰度分别解决什么问题?
原题CI 里的评测如何平衡速度和覆盖度?
原题如果 LLM-as-Judge 和人工评测结果不一致怎么办?
原题Agent eval 里的 task、trial、grader、transcript 分别是什么?
原题Skill 应该怎么单独评测?
原题评测 Harness 在 AI 应用里负责什么?
原题时间和 Web Search 结果一直变化,怎么评?
原题出现 Badcase 后,怎么区分模型、第三方系统、架构和代码问题?
原题为什么只写“请返回 JSON”不可靠
原题JSON Mode 和 Structured Outputs 有什么区别
原题JSON Schema 在大模型应用里解决什么问题
原题Function Calling 的完整链路是什么
原题Function Calling 和 MCP 有什么区别
原题MCP Tool 和普通 HTTP API 有什么关系
原题Agent Skill 和 Function Calling 是一回事吗
原题结构化输出失败后怎么处理
原题工具调用为什么必须做安全治理
原题为什么 AI 系统需要工作流?
原题Workflow、Graph、Loop 三者什么关系?
原题Graph Loop 和 Agent Loop 有什么区别?
原题Loop 如何防止死循环?
原题State 的更新策略怎么选?
原题条件边和动态路由的区别?
原题怎么理解 Graph 的抽象设计?
原题工作流中断后怎么恢复?
原题节点内的错误怎么处理?
原题Spring AI Alibaba 和 LangGraph 的循环实现有什么区别?
原题工作流有哪些特有的安全风险?
原题Prompt Demo 到生产系统最大的差距是什么?
原题为什么需要模型网关?
原题同步、流式、异步怎么选?
原题Prompt 为什么要做版本管理?
原题Tool Calling 的安全边界在哪里?
原题RAG 和 Memory 有什么区别?
原题AI 应用可观测要看哪些指标?
原题LLM-as-Judge 能不能替代人工评测?
原题AI 可观测性和传统可观测性最大的区别是什么?
原题为什么只有 Metrics 和日志还不够?
原题Agent Trace 应该如何拆 Span?
原题如何定位一次 RAG 错误回答?
原题多 Agent 并行执行时如何保持调用链?
原题Prompt 和模型回答应该全部写入 Trace 吗?
原题头部采样和尾部采样怎么选?
原题Trace 和 Evaluation 是什么关系?
原题Prompt Injection 应该怎么防?
原题为什么 Function Calling 有 Schema 仍然不安全?
原题Agent 可以退款时,完整执行链是什么?
原题MCP 使用 OAuth 后是否就安全了?
原题Docker 能否完全解决代码执行风险?
原题Agent Trace 为什么也有安全风险?
原题你怎么设计一个实时语音 Agent?
原题
暂无题目