寒武纪
AI Infra 实习生一面面经
完整信息
本篇目录
发一下问题给大家参考，攒攒人品！
1.实习拷打
2.有没有做过多卡 / 分布式通信；
3.tp，tp通信原语
4.MoE / EP ，Continuous Batching，KV Cache 分配
5.单卡场景下 P 和 D 怎么衔接，pd解耦和pd分离区别
6.Prefix Caching，命中 Prefix Caching 之后，attention 阶段的传参与不命中相比具体有什么差别
7.手撕二分查找
本篇目录
当前问题0109
- 01
实习拷打
- 02
有没有做过多卡 / 分布式通信
- 03
tp，tp通信原语
- 04
MoE / EP
- 05
Continuous Batching
- 06
KV Cache 分配
- 07
单卡场景下 P 和 D 怎么衔接，pd解耦和pd分离区别
- 08
Prefix Caching，命中 Prefix Caching 之后，attention 阶段的传参与不命中相比具体有什么差别
- 09
手撕二分查找