稀疏推理 Kernel 中如何选择 Key 拆分、双缓冲和流水线分块参数?
Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~
问 AI
本题目录
相关面经
1 篇腾讯
AI Infra二面
阐述算子优化中的key拆分策略、双缓冲机制、LSBD流水线设计,以及M16N8K64矩阵分块参数的适配场景与设计依据。
Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~
阐述算子优化中的key拆分策略、双缓冲机制、LSBD流水线设计,以及M16N8K64矩阵分块参数的适配场景与设计依据。