返回全部题目← 上一题62 / 114下一题 →题库/模型训练与对齐/Q-5604MoE 专家并行如何组织 Dispatch、专家计算与 Combine，并优化负载和通信？知识专题：分布式训练与计算硬件题目类型：原理机制技术难度：深入收录题集：6 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）自动带入当前题目本题目录收录题集相关题目收录题集6 份AI Infra 面试指南阿东玩 AI · AgentGuide · 1 条原题查看题集 →MoE 的某些 expert 持续过载，如何定位并治理？LLM推理系统问答阿东玩 AI · AgentGuide · 1 条原题查看题集 →原文作者Lamhot Siagian / AI Engineering Insider Explain the expert routing mechanism in an MoE model. What challenges does it create for inference serving?后训练章节追问阿东玩 AI · AgentGuide · 1 条原题查看题集 →推理时 Expert Parallelism 和训练时有什么区别？AI系统与训练推理工程阿东玩 AI · AgentGuide · 8 条原题查看题集 →【EP并行头拆分】用单卡做的工作还是多卡，多卡时有考虑ep并行的头拆分问题吗？ 「腾讯」【EP通信操作】ep的dispatch和combine 「阿里巴巴」【Expert Parallel实现】ep 如何实现的? MoE 的 expert parallel 如何做的? 「美团、腾讯」展开其余 5 条原题【MoE通信方式】moe并行过程中，怎么进行通信，有几种通信方式？ 「腾讯」【并行策略概念与实现】并行(dp/tp/pp/ep各自是什么，在vllm中如何实现)？ 「字节Seed」MoE（混合专家）模型推理优化：MoE推理优化关键点（专家切换成本、负载均衡等）。【DeepEP】介绍deepep。 「百度」【大模型推理算力分配与负载均衡】对DeepSeek 671B模型进行推理时，是如何做算力分配和负载均衡的？ 「字节跳动」DeepSeek高频面试题Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →题目三：MOE模型的通信开销计算和负载不均衡问题分析展开剩余 1 份题集AI Infra：训练、推理与 GPU 平台工程Onefly · zero2Agent · 1 条原题查看题集 →MoE 的 Expert Parallel 如何做 Dispatch/Combine、负载均衡和通信优化？DeepEP/EPLB 分别解决什么问题？相关题目4 题0030DCU 与 GPU 有什么区别？同一知识专题题目类型：比较选型技术难度：进阶相关面经：2 篇0031SIMT 有什么特点，遇到分支会发生什么？同一知识专题题目类型：原理机制技术难度：进阶相关面经：1 篇0032GPU 的存储层次和计算单元如何组织？同一知识专题题目类型：原理机制技术难度：进阶相关面经：2 篇0033DCU 如何把数据传入寄存器，并在芯片上共享？同一知识专题题目类型：原理机制技术难度：进阶相关面经：1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题训练流水线并行的空泡如何形成，常见前后向调度如何减少它？下一题 →CPU、GPU 与 NPU 的架构和训练推理适用条件有什么区别？
