深度网络架构
简要介绍Transformer的Encoder模块和Decoder模块,两者的核心差异是什么?
原题Transformer和Mamba(SSM)的区别是什么?各自的适用场景有哪些?
原题介绍一下Transformer中KV Cache的原理,它能解决什么问题?有什么局限性?
原题工业界中,Transformer模型的量化、剪枝优化思路是什么?能带来什么收益?
原题大模型时代,Transformer的架构优化方向有哪些?(如MoE、FlashAttention等)
原题Transformer中的Embedding层有什么作用?如何缓解词表稀疏问题?
原题为什么Transformer在长序列任务中容易出现性能下降?如何改进?
原题简要说明FlashAttention的核心原理,它如何优化Transformer的注意力计算效率?
原题Transformer模型中的Label Smoothing是什么?有什么作用?
原题对比Transformer和CNN,两者在特征提取方式上有什么本质区别?
原题
暂无题目