大模型与多模态数学专题
为什么长上下文的核心瓶颈是注意力复杂度和 KV Cache？
原题MHA、MQA、GQA 在 KV Cache 复杂度上有什么数学差异？
原题MLA（Multi-head Latent Attention）为什么能压缩 KV Cache？
原题RoPE Scaling、NTK-aware、YaRN 的长度外推直觉是什么？
原题滑动窗口注意力、稀疏注意力、分块注意力如何降低复杂度？
原题为什么 Test-Time Scaling 成为大模型推理能力提升的重要方向？
原题Temperature、Top-p、Typical Sampling、Contrastive Decoding 如何改变生成分布？
原题Best-of-N、Self-Consistency、Majority Vote 的概率收益如何理解？
原题Speculative Decoding 为什么可以无损加速？接受率公式如何理解？
原题Tree of Thoughts、Beam Search、MCTS 在推理搜索中有什么数学区别？
原题
暂无题目