预训练与架构
【GQA】GQA(Grouped Query Attention)是什么? 「阿里通义」
原题【GQA模型】有哪些大模型使用Grouped-query Attention? 「腾讯混元」
原题【KV Cache】KVCache怎么算、为什么大模型推理里需要KVCache。KV Cache是什么?为什么要有KV Cache?KV Cache为什么有效? 「蚂蚁集团、阿里巴巴」
原题【KV Cache原理】请解释KV Cache的原理及其作用。 「字节跳动、阿里巴巴」
原题【LLaMA Norm改进】LLAMA中Norm有什么改进? 「字节跳动、美团」
原题【Llama全连接层数量】整个Llama中有几个FC全连接层? 「百度」
原题【LLaMA架构】LLama架构是怎样的? 「腾讯」
原题【LLaMA输入长度限制】LLaMA输入句子长度理论上可以无限长吗? 「腾讯」
原题【LLM底层原理】LLM的底层原理有没有了解? 「字节跳动」
原题【LLM架构】大模型LLM的架构介绍? 「腾讯、腾讯混元」
原题
暂无题目