模型接口与评测问答

题集来源:Guide(Snailclimb)收录项目:JavaGuide查看原题集

题目目录

49 道原题
  1. 一次生产级 LLM 调用包含哪些阶段?

    原题
  2. 同步返回和流式返回有什么区别?

    原题
  3. 为什么 Streaming 能降低 TTFT?

    原题
  4. SSE、WebSocket 和 HTTP chunked 这三种流式协议怎么选

    原题
  5. 模型正文包含换行时怎么处理

    原题
  6. 哪些错误能重试,哪些不能重试?

    原题
  7. 为什么要限流?如何限流?

    原题
  8. 为什么 Token 预算比请求数更重要

    原题
  9. 收到 429 应该怎么处理

    原题
  10. 为什么要结构化返回?

    原题