AI系统与训练推理工程

题集来源：阿东玩 AI（Adong）收录项目：AgentGuide查看原题集

【GPU Warp调度】发射很多个线程，GPU如何调度选择实现哪个Warp？「百度」
原题
关联题目CUDA Kernel 如何在 GPU 上执行？模型训练与对齐 / 分布式训练与计算硬件原理机制进阶0篇相关面经
【GPU型号对比与选型】AI芯片发展趋势（ASIC、FPGA等）；不同代GPU架构特点（Volta、Ampere、Hopper等）；加速卡如何选择？对比A100和H20的算力、通信性能，以及与NVIDIA卡的区别。「腾讯混元、蚂蚁集团、阿里巴巴、阿里通义」
原题
关联题目CPU、GPU 与 NPU 的架构和训练推理适用条件有什么区别？模型训练与对齐 / 分布式训练与计算硬件比较选型进阶1篇相关面经
【GPU并行与协作】GPU与CPU的协作优化；GPU的并行计算优势。「百度」
原题
关联题目CPU 调度过慢时如何提高 CPU/GPU 协同效率？模型训练与对齐 / 分布式训练与计算硬件方案设计进阶1篇相关面经
【GPU异步同步】GPU上的异步与同步。「百度」
原题
关联题目GPU 异步执行中的同步错误和性能串行化应如何排查？模型训练与对齐 / 分布式训练与计算硬件故障排查进阶0篇相关面经
【GPU性能与能效优化】GPU的性能优化方法；GPU的能效比优化。「百度」
原题
关联题目如何用 Roofline 与性能剖析定位和优化 GPU 算子瓶颈？模型训练与对齐 / 分布式训练与计算硬件故障排查深入0篇相关面经
【GPU流多处理器与线程束】详细讲讲GPU里面的流多处理器，讲讲线程束？「阿里巴巴」
原题
关联题目CUDA Kernel 如何在 GPU 上执行？模型训练与对齐 / 分布式训练与计算硬件原理机制进阶0篇相关面经
【GPU生态对比】不同GPU生态的差别？「阿里巴巴」
原题
关联题目AI 模型和执行栈迁移到异构加速芯片时，如何适配并验证？模型训练与对齐 / 分布式训练与计算硬件方案设计深入0篇相关面经
【Hopper架构精度支持】H20的hopper架构对什么数据精度格式的算力支持/优化更好？「阿里巴巴」
原题
关联题目低精度浮点与整数量化在表示、缩放和硬件执行上有什么区别？模型基础与推理 / 推理优化与模型压缩比较选型进阶0篇相关面经
【IndependentThreadScheduling】IndependentThreadScheduling的概念。「百度」
原题
关联题目SIMT 有什么特点，遇到分支会发生什么？模型训练与对齐 / 分布式训练与计算硬件原理机制进阶1篇相关面经
【K8s GPU管理】K8s上怎么管理GPU资源？「美团」
原题
关联题目Kubernetes 如何发现、分配并隔离 GPU 设备资源？软件工程基础 / 容器、云原生与工程交付原理机制深入0篇相关面经

题目目录

【GPU Warp调度】发射很多个线程，GPU如何调度选择实现哪个Warp？ 「百度」

【GPU型号对比与选型】AI芯片发展趋势（ASIC、FPGA等）；不同代GPU架构特点（Volta、Ampere、Hopper等）；加速卡如何选择？对比A100和H20的算力、通信性能，以及与NVIDIA卡的区别。 「腾讯混元、蚂蚁集团、阿里巴巴、阿里通义」

【GPU并行与协作】GPU与CPU的协作优化；GPU的并行计算优势。 「百度」

【GPU异步同步】GPU上的异步与同步。 「百度」

【GPU性能与能效优化】GPU的性能优化方法；GPU的能效比优化。 「百度」

【GPU流多处理器与线程束】详细讲讲GPU里面的流多处理器，讲讲线程束？ 「阿里巴巴」

【GPU生态对比】不同GPU生态的差别？ 「阿里巴巴」

【Hopper架构精度支持】H20的hopper架构对什么数据精度格式的算力支持/优化更好？ 「阿里巴巴」

【IndependentThreadScheduling】IndependentThreadScheduling的概念。 「百度」

【K8s GPU管理】K8s上怎么管理GPU资源？ 「美团」

【GPU Warp调度】发射很多个线程，GPU如何调度选择实现哪个Warp？「百度」

【GPU型号对比与选型】AI芯片发展趋势（ASIC、FPGA等）；不同代GPU架构特点（Volta、Ampere、Hopper等）；加速卡如何选择？对比A100和H20的算力、通信性能，以及与NVIDIA卡的区别。「腾讯混元、蚂蚁集团、阿里巴巴、阿里通义」

【GPU并行与协作】GPU与CPU的协作优化；GPU的并行计算优势。「百度」

【GPU异步同步】GPU上的异步与同步。「百度」

【GPU性能与能效优化】GPU的性能优化方法；GPU的能效比优化。「百度」

【GPU流多处理器与线程束】详细讲讲GPU里面的流多处理器，讲讲线程束？「阿里巴巴」

【GPU生态对比】不同GPU生态的差别？「阿里巴巴」

【Hopper架构精度支持】H20的hopper架构对什么数据精度格式的算力支持/优化更好？「阿里巴巴」

【IndependentThreadScheduling】IndependentThreadScheduling的概念。「百度」

【K8s GPU管理】K8s上怎么管理GPU资源？「美团」