模型部署基础概念题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集 题目目录33 道原题隐藏关联题目排序默认排序面经最多11有哪些经典的轻量化网络?原题 关联题目常见轻量化 CNN 如何设计,部署时有哪些取舍?模型基础与推理 / 模型架构与表示比较选型进阶0篇相关面经12有哪些设计高效CNN架构的方法与经验?原题 关联题目常见轻量化 CNN 如何设计,部署时有哪些取舍?模型基础与推理 / 模型架构与表示比较选型进阶0篇相关面经13算法模型部署逻辑?原题 关联题目算法如何工程化部署?AI 应用工程与治理 / 模型服务、部署与交付系统设计进阶1篇相关面经14影响模型inference速度的因素?原题 关联题目现代 GPU 上的大模型推理流水线有哪些主要性能瓶颈?模型基础与推理 / 推理优化与模型压缩原理机制进阶0篇相关面经15AI推理系统介绍原题 关联题目算法如何工程化部署?AI 应用工程与治理 / 模型服务、部署与交付系统设计进阶1篇相关面经16在AI领域中模型一共有多少种主流部署形式?原题 关联题目项目为什么选择本地部署模型或调用 API?已有答案模型基础与推理 / 模型选型与能力边界比较选型进阶2篇相关面经17AI模型在端侧部署时有哪些维度需要考虑?原题 关联题目如何优化大模型在边缘设备与移动端的推理?AI 应用工程与治理 / 模型服务、部署与交付方案设计进阶0篇相关面经18轻量级模型部署经验分享原题 关联题目常见轻量化 CNN 如何设计,部署时有哪些取舍?模型基础与推理 / 模型架构与表示比较选型进阶0篇相关面经19端侧静态多Batch和动态多Batch的区别原题 此处“静态/动态多 Batch”讨论端侧输入批维与资源规划,不指在线请求的动态组批。关联题目端侧推理中的静态 Batch 与动态 Batch 形状有什么区别?AI 应用工程与治理 / 模型服务、部署与交付比较选型进阶0篇相关面经20介绍一下MoE技术原题 关联题目MoE 混合专家模型如何组织路由与专家计算?模型基础与推理 / 模型架构与表示原理机制进阶0篇相关面经暂无题目共 33 道原题 · 显示 11–20 道展开全部33题上一页12342 / 4下一页