AI系统与训练推理工程
【GEMM优化】GEMM 为什么能做到 95+% cuBLAS？GEMM算子有哪些主流优化思路，我有没有实践过？写CUDA GEMM算子：实现一个base版本，并讲解优化方法（包括一个thread算多个数、数据复用、访存合并、双buffer边读边算、避免bank conflict），同时讲评估指标。 「字节跳动、美团、腾讯混元、蚂蚁集团」
原题【Independent Thread Scheduling】什么是Independent Thread Scheduling？它是如何实现的？在CUDA中如何利用这种机制优化性能？ 「百度」
原题【Kernel性能分析】一个kernel内部(不考虑memcpy、malloc预分配好的内存耗时)运行时如何分析算子性能？ 「百度」
原题【Marlin算子】极速反量化的marlin算子了解过吗？ 「阿里巴巴」
原题【Reduce实现与优化】手撕CUDA reduce，要求实现block reduce，并使用warp shuffle优化，能否进一步优化？变体：对二维矩阵的每一行做reduce；输入为[N, C, H, W] = [128, 16, 256, 256]，输出为[N, H, W]；输入为(1000000,128)矩阵，reduce到(1,128)。 「字节跳动、百度、阿里巴巴」
原题【Softmax优化】CUDA softmax 优化。 「百度」
原题【SRAM与HBM带宽优化】它们如何利用GPU SRAM与HBM之间的带宽瓶颈进行优化？ 「字节跳动」
原题【Tiled MatMul】写代码题：tiled matmul。 「字节Seed」
原题【Tilelang vs Triton】Tilelang和Triton有哪些性能差异，为什么，问我有没有自己上手验证过。 「腾讯混元」
原题【Tiling Block Size选择】你的tiling block size怎么选的？为什么这样选？ 「阿里巴巴」
原题
暂无题目