AI系统与训练推理工程

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

581 道原题
  1. 【Bank Conflict】Shared Memory Bank Conflict的定义;请解释shared memory的bank conflict是什么,并说明解决Shared Memory Bank Conflict的方法。 「百度、阿里巴巴、阿里通义」

    原题
  2. 【CPU算子向量化】优化CPU的算子,向量化指令集。 「百度」

    原题
  3. 【CUDA优化技术概述】解释CUDA编程中的常见优化技术。 「蚂蚁集团」

    原题
  4. 【DeepEP】介绍deepep。 「百度」

    原题
  5. 【DeepGEMM】有没有了解deepgemm? 「阿里巴巴」

    原题
  6. 【Global Memory访问优化】如何高效地访问Global Memory? 「百度」

    原题
  7. 【Kernel Launch开销】CUDA Kernel Launch的耗时来源。 「百度」

    原题
  8. 【Kernel优化技能点】在kernel优化方面的技能点主要点在哪个part?是在上层针对具体场景,还是kernel本身,还是下层利用硬件特性。 「字节跳动」

    原题
  9. 【Register Spill】什么是Register Spill?发生Register Spill是好是坏?为什么?如何避免或减少Register Spill? 「百度」

    原题
  10. 【Shared Memory vs HBM】加载到shared memory和直接从HBM取input比为什么更快(取得数组里面数的数目都是一样的)? 「阿里巴巴」

    原题