大模型基础面试题
Agent 评测为什么比普通问答和 RAG 更复杂?
原题离线评测、Trace 回放、线上灰度分别解决什么问题?
原题CI 里的 AI 评测如何平衡速度和覆盖度?
原题如果 LLM-as-Judge 和人工评测结果不一致,应该怎么处理?
原题客服机器人历史会话持续增长时,如何分配 Token 预算并保留关键业务状态?
原题流式响应中途断开后,服务端如何处理重试、续传和重复计费问题?
原题上游模型触发 RPM 或 TPM 限制时,模型网关如何排队、降级或切换模型?
原题模型生成退款工具的调用参数后,业务系统还需要执行哪些校验?
原题更换模型或修改 Prompt 后,如何用离线评测、Trace 回放和线上灰度验证效果?
原题
暂无题目