AI 系统设计面试题
Prompt Demo 到生产系统之间有哪些工程差距？
原题如何设计一个生产级 AI 应用的整体架构？
原题一次 AI 请求从接入到返回结果，会经过哪些模块？
原题入口层、编排层、Prompt/Context、RAG/Memory/Tool、模型网关和评测观测分别负责什么？
原题同步返回、流式返回和异步任务分别适合什么场景？
原题Prompt 为什么要做版本管理？模板、变量和模型版本应该如何关联？
原题RAG、Memory 和 Tool 分别管理什么信息？为什么要分开治理？
原题长任务的中间状态如何保存？服务重启后怎么恢复？
原题为了支持问题回放，一次请求至少要记录哪些数据？
原题为什么生产环境需要 LLM Gateway？业务服务直接调用模型 API 有哪些问题？
原题
暂无题目