AI大模型推理性能优化与加速一面面经

#秋招面试记录##发面经攒人品#
岗位方向：AI 大模型推理性能优化与加速
形式：单面 1 位面试官，约 30 分钟，线上
环节顺序：自我介绍 → 项目深挖 → AI Coding 经验 → 代码题 → 反问

1. 算子通用问题
   你觉得算子在 AI 推理的技术栈和优化栈中处于什么位置？

2. 硬件平台 / 生态

• 你操作比较多的硬件平台是哪些？
• 海光的软件生态是 HIP 是吗？全称是什么？
• 海光和 CUDA 生态有什么异同？
• 海光的 DCU 和 GPU 有什么差别？（到底多爱问）
• 这两个差别会怎么影响你算子的开发？
• CUDA 生态的算子库 / 算子实现能否直接用在海光生态？
• 为什么不能直接用？按理说接口差不多，只做 API 调整就可以了？

1. 大模型推理算子

• 你有实际优化过一些大模型推理使用的算子吗？
• 你觉得大模型推理过程中哪些算子比较关键？
• 那你知道它大概的原理吗？
• FlashAttention 的实现你了解吗？

1. 论文与项目

• 你参与的论文主要是做什么的？
• 这个过程中最主要的挑战点在哪里？
• 重点写的比较深入的算子是哪些？

1. AI Coding

• 你用 AI 来做 coding、做效率提升时，怎么高效利用？
• 有什么能让 AI 更好执行你意愿/目的的经验或技巧？

1. 手撕（口述题目，代码只让写了函数）
   一列数字，所有数字都是两两相邻成对出现的（形如 112233），但有一个数落单了，没遵循规律。写一个方法找到这个落单值的位置。

2. 反问 & 收尾#牛客AI配图神器#