项目中的量化与 FlashAttention 分别带来了哪些实际优化效果?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

1 篇

快手

AI Infra
实习一面
查看原面经 →
介绍模型量化和Flash attention,实际优化效果如何

相关题目

4 题