降低自注意力计算复杂度有哪些常见方法?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

3 篇

拼多多

大模型算法
二面
查看原面经 →
行业内常用的降低自注意力时间复杂度的方案有哪些?

滴滴

大模型算法实习生
实习一面、二面
查看原面经 →
自注意力存在问题,有什么优化方案

阿里巴巴

大模型算法
实习二面
查看原面经 →
Transformer的训练复杂度还挺高的,尤其是在处理长序列时。你了解哪些工作是致力于降低它训练时间复杂度的?

相关题目

4 题