预训练与架构
【MoE架构】介绍MoE架构。 「阿里巴巴」
原题【MQA模型】有哪些模型是使用Multi-Query Attention? 「腾讯混元」
原题【NLP与LLM区别】NLP和LLM最大的区别是什么? 「美团」
原题【Perplexity】了解Perplexity(PPL)吗?基于PPL做过滤时,PPL是怎么计算的? 「美团、腾讯」
原题【PPL概念与公式】解释PPL的概念和公式。 「美团」
原题【Prefill阶段】什么是prefill? 「阿里巴巴」
原题【Qwen3-30B-A3B】Qwen3-30B-A3B是个什么样的模型? 「腾讯」
原题【Qwen instruct与think模型】Qwen的instruct和think模型有什么区别? 「腾讯」
原题【Qwen注意力机制】qwen用的是什么注意力机制? 「字节跳动」
原题【RMSNorm】为什么要使用rms-norm? 「百度文心」
原题
暂无题目