生产架构与治理问答

题集来源:Guide(Snailclimb)收录项目:JavaGuide查看原题集

题目目录

83 道原题
  1. Demo 架构为什么扛不住生产流量

    原题
  2. 同步、流式、异步三种交互模式怎么选

    原题
  3. Token 预算怎么做

    原题
  4. RAG 与 Memory:共享知识和个性化记忆怎么协作

    原题
  5. 怎么避免上下文污染

    原题
  6. 评测应该怎么做

    原题
  7. 为什么 AI 应用不能只看接口是否成功?

    原题
  8. Metrics、Logs、Trace、Evaluation 和 Audit 有什么区别?

    原题
  9. Trace、Span、Session、Run 和 Attempt 怎么区分?

    原题
  10. 一次 Agent 请求应该怎样拆 Span?

    原题
  11. 父子关系应该怎么设计?

    原题
  12. Span 名称应该怎么定?

    原题
  13. OpenTelemetry 已经统一了 Agent Span 吗?

    原题
  14. 一条 Trace 应该记录哪些信息?

    原题
  15. 低基数和高基数字段应该怎么区分?

    原题
  16. AI 应用应该重点监控哪些指标?

    原题
  17. 如何用 Trace 定位常见的 AI Badcase?

    原题
  18. RAG 返回了错误答案,应该先看哪里?

    原题
  19. 退款工具为什么执行了两次?

    原题
  20. 多 Agent 汇总为什么漏了一份结果?

    原题
  21. 多 Agent、异步任务和消息队列如何保持 Trace?

    原题
  22. 跨服务如何传播?

    原题
  23. 切换线程为什么会断链?

    原题
  24. 流式调用是否一定能自动关联?

    原题
  25. 一个任务跨多条 Trace 怎么关联?

    原题
  26. Trace 里能保存完整 Prompt 和工具结果吗?

    原题
  27. Trace 采样应该怎么设计?

    原题
  28. 头部采样和尾部采样有什么区别?

    原题
  29. 比较实用的组合策略是什么?

    原题
  30. 线上 Trace 如何回流到评测体系?

    原题
  31. Java/Spring AI 项目如何接入可观测性?

    原题
  32. 如何打通 Spring AI 自带的 Trace?

    原题
  33. 哪些 Span 需要自己补?

    原题
  34. 如何验证接入结果?

    原题
  35. AI 可观测性平台应该怎么选?

    原题
  36. 落地 AI 可观测性时最容易犯哪些错误?

    原题
  37. AI 语音系统到底解决了什么问题?

    原题
  38. 语音识别(ASR)是怎么把声音变成文字的?

    原题
  39. 流式 ASR 和非流式 ASR 的区别

    原题
  40. 语音合成(TTS)是怎么把文字变成声音的?

    原题
  41. VAD 如何控制对话轮次?

    原题
  42. 端侧 VAD 还是服务端 VAD?

    原题
  43. 一次完整的语音对话是怎么跑起来的?

    原题
  44. 实时语音为什么比文字对话难这么多?

    原题
  45. 从 interview-guide 看基础版语音 Agent 是怎么实现的?

    原题
  46. 怎么让语音 Agent 支持打断?

    原题
  47. 浏览器音频捕获与前处理在语音系统中扮演什么角色?

    原题
  48. 级联链路和原生实时模型各有什么优劣?

    原题
  49. 怎么在生产环境中优化语音系统?

    原题
  50. 语音 Agent 还能怎么演进?

    原题
  51. LLM Gateway 到底是什么?

    原题
  52. 为什么需要 LLM Gateway?

    原题
  53. LLM Gateway 和 LLM Router 有什么区别?

    原题
  54. LLM Gateway 和 RAG、Agent、MCP 是什么关系?

    原题
  55. LLM Gateway 会不会增加延迟?

    原题
  56. 你真的需要 LLM Gateway 吗?

    原题
  57. 为什么不能所有请求都用最强模型?

    原题
  58. 什么任务适合小模型?什么任务必须上强模型?

    原题
  59. LLM Router 如何选择模型?

    原题
  60. LLM Gateway 需要具备哪些能力?

    原题
  61. 如何让你设计一个 LLM Gateway,你会怎么做?

    原题
  62. 一个生产级 LLM Gateway 长什么样?

    原题
  63. 请求进来后,Gateway 内部怎么跑?

    原题
  64. 路由策略怎么从简单演进到智能?

    原题
  65. 路由错了怎么办?

    原题
  66. 主流方案怎么选?

    原题
  67. 自研、LiteLLM、Cloudflare AI Gateway、Kong AI Gateway、Inworld Router 怎么选?

    原题
  68. 怎么衡量 LLM Gateway 做得好不好?

    原题
  69. Agent 为什么扩大了 LLM 的安全风险?

    原题
  70. Prompt Injection、间接注入和 Jailbreak 有什么区别?

    原题
  71. 为什么在 System Prompt 里写“不要听外部指令”还不够?

    原题
  72. 外部内容怎样进入上下文才更安全?

    原题
  73. 模型输出必须经过哪些校验?

    原题
  74. 怎样控制 Agent 的工具权限?

    原题
  75. MCP 授权需要注意什么?

    原题
  76. 重试、幂等和结果不确定怎样处理?

    原题
  77. 代码和浏览器工具怎样隔离?

    原题
  78. 敏感数据、日志和 Trace 怎么处理?

    原题
  79. MCP、Skills 和模型供应链怎么治理?

    原题
  80. Java 后端如何实现安全工具执行链?

    原题
  81. 在 Spring AI 中把安全层放在哪里?

    原题
  82. 安全测试应该覆盖哪些 Badcase?

    原题
  83. 发生安全事件后怎么处理?

    原题