模型部署基础概念题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集 题目目录33 道原题隐藏关联题目排序默认排序面经最多21介绍一下DDP和FSDP的原理与区别原题 关联题目DDP 与 FSDP 在状态存储、通信和执行流程上有什么区别?模型训练与对齐 / 分布式训练与计算硬件比较选型进阶0篇相关面经22什么是异构计算?原题 关联题目什么是异构计算,如何组织不同处理器协同?模型训练与对齐 / 分布式训练与计算硬件原理机制进阶0篇相关面经23Int8和FP8有哪些区别?原题 关联题目低精度浮点与整数量化在表示、缩放和硬件执行上有什么区别?模型基础与推理 / 推理优化与模型压缩比较选型进阶0篇相关面经24介绍一下NF4精度的特点原题 关联题目NF4 如何表示和量化权重,与普通整数或浮点低精度表示有什么区别?模型基础与推理 / 推理优化与模型压缩原理机制进阶0篇相关面经25AI模型的轻量化效果评价指标有哪些?原题 关联题目如何评估模型压缩与轻量化的实际效果?AI 应用工程与治理 / 模型服务、部署与交付效果评估进阶0篇相关面经26如何将AI模型缓存到内存中,这么做有什么好处?原题 关联题目多个模型共享 GPU 时,如何管理显存与模型驻留?AI 应用工程与治理 / 模型服务、部署与交付系统设计深入0篇相关面经27Jenkins的介绍原题 关联题目Jenkins 在持续集成与交付流水线中承担什么职责?软件工程基础 / 开发工具与工程实践概念解释基础0篇相关面经28介绍一下模型性能优化与模型部署之间的关系原题 关联题目算法如何工程化部署?AI 应用工程与治理 / 模型服务、部署与交付系统设计进阶1篇相关面经29英伟达的GPU架构是什么样的?原题 关联题目GPU 的存储层次和计算单元如何组织?模型训练与对齐 / 分布式训练与计算硬件原理机制进阶2篇相关面经30大模型常见模型文件格式简介原题 关联题目常见模型权重与部署文件格式有什么区别?AI 应用工程与治理 / 模型服务、部署与交付比较选型进阶0篇相关面经暂无题目共 33 道原题 · 显示 21–30 道展开全部33题上一页12343 / 4下一页