Deep Learning Performance Architect一面面经

Background: 体系架构, OS, DL都懂一点
简历里有LLM training以及perf的使用，simd的使用和优化，onnx以及torch cpu backend，flash atten
面试:
Overall:
主要问的是简历和gpu架构的问题--基本上全答出来还能拓展topic

1. 建立的flash atten, simd/simT的区别‘
2. gpu 体系架构，shared-mem
3. dp/tp--我提了sharding，以及google的define以及sharding需要注意的地方

围绕这几点展开

结果:
一面挂了--原因不详，感觉不是技术问题