高性能研发一面面经

#秋招面试记录##发面经攒人品##牛客AI配图神器#
1个面试官 25分钟 无手撕

一、开场与自我介绍

1. 做一个自我介绍。

二、实习与加速设备

1. 你之前那段实习，它所使用的设备是什么？是 GPU 吗？
2. 你学业课题里面使用的计算加速设备，基本上都是 GPU 是吧？
3. DCU 能给我讲一下吗？我不是很熟悉这个东西。（数不清问了多少次）

三、项目拷打

1. 问了点算子的功能和精度细节。还有用的设备的体系结构上的一些内容。
2. 这个成果是你们团队一起做的，还是你一个人做的？
3. 这个写论文了吗？最后发表了吗？

四、杂项八股

1. 深度学习、大模型里面相关的矩阵乘优化，以前有接触过吗？
2. 这套东西你之前有拿手写过吗？
3. 你刚才提到 FlashAttention，能解释一下这种 flash 的 attention，flash 在什么地方？
4. 这套东西让你拿 CUDA 来写，你觉得应该注意哪些思想？
5. FP16 和 BF16 这两种 16 bit 的浮点的特点？
6. 讲讲float的指数位、尾数位各有多少位。
7. 不带转置的矩阵乘有做过吗？
8. 如果给你稀疏矩阵，让你做 SpMV，你会怎么做？是硬着去做，还是先转成 CSR 或 COO？

五、反问