AI系统与训练推理工程
【Warp Shuffle指令】warp的shuffle指令up、down和XOR的使用场景是什么？ 「百度」
原题【向量加法Kernel】手写CUDA Kernel实现向量加法并解释优化思路（核心内容）。需要手写CUDA吗？手撕CUDA；写一道CUDA编程题。 「字节Seed、百度、腾讯、阿里通义」
原题【循环展开优化】为什么循环展开可以提速？ 「阿里巴巴」
原题【性能分析工具】你有哪些工具（如ncu）可以观察kernel的性能瓶颈？能观察到多细的粒度？如何用这些工具检查访存次数并定位瓶颈？ 「百度、蚂蚁集团、阿里巴巴」
原题【显式拷贝机制】Host to Device、Device to Host这种显式拷贝在今天的框架里到底怎么发生？ 「阿里巴巴」
原题【算子优化手段】常用的算子优化手段？ 「百度」
原题【算子层组织】具体到算子层是怎么组织的？ 「阿里巴巴」
原题【CUDA算子融合】有没有做过kernel级别的优化？比如用CUDA做算子融合？ 「百度」
原题【CUDA资源调度】训练框架底层，如何调度cuda资源？ 「阿里巴巴」
原题【FlashAttention Kernel】FlashAttention的cuda kernel核心逻辑？ 「阿里巴巴」
原题
暂无题目