W4A4 稀疏推理 Kernel 如何设计量化、WMMA 计算与 Bitmap 索引?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

1 篇

腾讯

AI Infra
二面
查看原面经 →
讲解W4A4稀疏推理Kernel的完整实现方案,基于WMMA指令的算子适配逻辑、量化精度设计思路。
介绍自研4 Tile对应1 Bitmap的稀疏算子创新设计,说明该方案对稀疏计算效率的提升原理。

相关题目

4 题