大模型基础面试题

题集来源:Guide(Snailclimb)收录项目:JavaGuide查看原题集

题目目录

39 道原题
  1. Agent 评测为什么比普通问答和 RAG 更复杂?

    原题
  2. 离线评测、Trace 回放、线上灰度分别解决什么问题?

    原题
  3. CI 里的 AI 评测如何平衡速度和覆盖度?

    原题
  4. 如果 LLM-as-Judge 和人工评测结果不一致,应该怎么处理?

    原题
  5. 客服机器人历史会话持续增长时,如何分配 Token 预算并保留关键业务状态?

    原题
  6. 流式响应中途断开后,服务端如何处理重试、续传和重复计费问题?

    原题
  7. 上游模型触发 RPM 或 TPM 限制时,模型网关如何排队、降级或切换模型?

    原题
  8. 模型生成退款工具的调用参数后,业务系统还需要执行哪些校验?

    原题
  9. 更换模型或修改 Prompt 后,如何用离线评测、Trace 回放和线上灰度验证效果?

    原题