边云端部署知识点题集来源：Rocky Ding（WeThinkIn）收录项目：AIGC-Interview-Book查看原题集 题目目录31 道原题隐藏关联题目排序默认排序面经最多11优化模型端侧性能的一些方法原题 关联题目如何优化大模型在边缘设备与移动端的推理？AI 应用工程与治理 / 模型服务、部署与交付方案设计进阶0篇相关面经12目前主流的端侧算力芯片有哪些种类？原题 关联题目CPU、GPU 与 NPU 的架构和训练推理适用条件有什么区别？模型训练与对齐 / 分布式训练与计算硬件比较选型进阶1篇相关面经13MPI并行计算技术介绍原题 关联题目分布式计算通信后端如何组织进程与集合通信？模型训练与对齐 / 分布式训练与计算硬件原理机制进阶0篇相关面经14NVIDIA的NCCL技术介绍原题 关联题目分布式计算通信后端如何组织进程与集合通信？模型训练与对齐 / 分布式训练与计算硬件原理机制进阶0篇相关面经15什么是All-gather操作？原题 关联题目All-Gather 与 Reduce-Scatter 如何改变各进程的张量分布？模型训练与对齐 / 分布式训练与计算硬件原理机制进阶0篇相关面经16pytorch是如何实现All-gather操作的？原题 关联题目All-Gather 与 Reduce-Scatter 如何改变各进程的张量分布？模型训练与对齐 / 分布式训练与计算硬件原理机制进阶0篇相关面经17什么是Reduce-Scatter操作？原题 关联题目All-Gather 与 Reduce-Scatter 如何改变各进程的张量分布？模型训练与对齐 / 分布式训练与计算硬件原理机制进阶0篇相关面经18pytorch是如何实现Reduce-Scatter操作的？原题 关联题目All-Gather 与 Reduce-Scatter 如何改变各进程的张量分布？模型训练与对齐 / 分布式训练与计算硬件原理机制进阶0篇相关面经19什么是FSDP？原题 关联题目DDP 与 FSDP 在状态存储、通信和执行流程上有什么区别？模型训练与对齐 / 分布式训练与计算硬件比较选型进阶0篇相关面经20什么是ZeRO？原题 关联题目ZeRO-1、ZeRO-2 和 ZeRO-3 有何区别？模型训练与对齐 / 分布式训练与计算硬件比较选型进阶3篇相关面经暂无题目共 31 道原题 · 显示 11–20 道展开全部31题上一页12342 / 4下一页