模型部署基础概念
FP32，FP16以及Int8的区别？
原题bfloat16精度和float16精度的区别？
原题GPU显存占用和GPU利用率的定义
原题英伟达显卡中Volatile-GPU-Util代表什么含义？
原题AI领域的延迟和吞吐量？
原题什么是GPU内存带宽？
原题AI模型的参数量如何计算？
原题模型FLOPs怎么算？
原题神经网络的显存占用分析
原题减小模型内存占用有哪些办法？
原题有哪些经典的轻量化网络？
原题有哪些设计高效CNN架构的方法与经验？
原题算法模型部署逻辑？
原题影响模型inference速度的因素？
原题AI推理系统介绍
原题在AI领域中模型一共有多少种主流部署形式？
原题AI模型在端侧部署时有哪些维度需要考虑？
原题轻量级模型部署经验分享
原题端侧静态多Batch和动态多Batch的区别
原题此处“静态/动态多 Batch”讨论端侧输入批维与资源规划，不指在线请求的动态组批。
介绍一下MoE技术
原题介绍一下DDP和FSDP的原理与区别
原题什么是异构计算？
原题Int8和FP8有哪些区别？
原题介绍一下NF4精度的特点
原题AI模型的轻量化效果评价指标有哪些？
原题如何将AI模型缓存到内存中，这么做有什么好处？
原题Jenkins的介绍
原题介绍一下模型性能优化与模型部署之间的关系
原题英伟达的GPU架构是什么样的？
原题大模型常见模型文件格式简介
原题safetensors模型文件的使用
原题GGUF模型文件的组成
原题diffusion和diffusers模型的相互转换
原题原题中的“diffusion 模型”在直属正文特指 Stable Diffusion 单文件检查点，“diffusers 模型”指库使用的分组件目录包装；不是两种生成算法之间转换。
暂无题目