真面经，好答案。面试之前，先来面栈。

模型部署精华 · 推理部署综述

题集来源：Rocky Ding（WeThinkIn）收录项目：AIGC-Interview-Book查看原题集

题目目录

44 道原题

  1. 大模型服务化和传统模型服务化有什么不同？

    原题
    关联题目大模型与传统深度学习模型的推理和服务化有什么差异？AI 应用工程与治理 / 模型服务、部署与交付比较选型进阶0篇相关面经

  2. 评估推理服务时为什么不能只看平均延迟？

    原题
    关联题目如何测量和评价大模型推理性能？AI 应用工程与治理 / 性能、时延与成本效果评估进阶0篇相关面经

  3. 大模型推理服务有哪些特殊评估指标？

    原题
    关联题目如何测量和评价大模型推理性能？AI 应用工程与治理 / 性能、时延与成本效果评估进阶0篇相关面经

  4. （进阶）如何评估推理服务的稳定性和线上可用性？

    原题
    关联题目生产 AI 系统如何定义 SLA、SLO 和关键运行指标？AI 应用工程与治理 / 可观测性、稳定性与故障诊断方案设计进阶0篇相关面经