模型部署基础概念题集来源：Rocky Ding（WeThinkIn）收录项目：AIGC-Interview-Book查看原题集 题目目录33 道原题隐藏关联题目排序默认排序面经最多01FP32，FP16以及Int8的区别？原题 关联题目低精度浮点与整数量化在表示、缩放和硬件执行上有什么区别？模型基础与推理 / 推理优化与模型压缩比较选型进阶0篇相关面经02bfloat16精度和float16精度的区别？原题 关联题目FP16、BF16 与 FP32 有什么区别，训练时如何选择？模型训练与对齐 / 分布式训练与计算硬件比较选型进阶0篇相关面经03GPU显存占用和GPU利用率的定义原题 关联题目GPU 利用率如何统计，它与显存占用有什么关系？AI 应用工程与治理 / 模型服务、部署与交付原理机制进阶0篇相关面经04英伟达显卡中Volatile-GPU-Util代表什么含义？原题 关联题目GPU 利用率如何统计，它与显存占用有什么关系？AI 应用工程与治理 / 模型服务、部署与交付原理机制进阶0篇相关面经05AI领域的延迟和吞吐量？原题 关联题目如何测量和评价大模型推理性能？AI 应用工程与治理 / 性能、时延与成本效果评估进阶0篇相关面经06什么是GPU内存带宽？原题 关联题目什么是 GPU 显存带宽？模型训练与对齐 / 分布式训练与计算硬件概念解释基础0篇相关面经07AI模型的参数量如何计算？原题 关联题目神经网络参数量是什么，如何按网络层计算？模型基础与推理 / 模型架构与表示原理机制进阶0篇相关面经08模型FLOPs怎么算？原题 关联题目神经网络 FLOPs 如何定义和计算？模型基础与推理 / 模型架构与表示原理机制进阶0篇相关面经09神经网络的显存占用分析原题 关联题目模型训练的显存由哪些部分占用？模型训练与对齐 / 分布式训练与计算硬件原理机制进阶1篇相关面经10减小模型内存占用有哪些办法？原题 关联题目模型训练或推理显存不足时有哪些优化方法？模型训练与对齐 / 分布式训练与计算硬件方案设计进阶1篇相关面经暂无题目共 33 道原题 · 显示 1–10 道展开全部33题上一页12341 / 4下一页