预训练与架构

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

254 道原题
  1. 【GQA】GQA(Grouped Query Attention)是什么? 「阿里通义」

    原题
  2. 【GQA模型】有哪些大模型使用Grouped-query Attention? 「腾讯混元」

    原题
  3. 【KV Cache】KVCache怎么算、为什么大模型推理里需要KVCache。KV Cache是什么?为什么要有KV Cache?KV Cache为什么有效? 「蚂蚁集团、阿里巴巴」

    原题
  4. 【KV Cache原理】请解释KV Cache的原理及其作用。 「字节跳动、阿里巴巴」

    原题
  5. 【LLaMA Norm改进】LLAMA中Norm有什么改进? 「字节跳动、美团」

    原题
  6. 【Llama全连接层数量】整个Llama中有几个FC全连接层? 「百度」

    原题
  7. 【LLaMA架构】LLama架构是怎样的? 「腾讯」

    原题
  8. 【LLaMA输入长度限制】LLaMA输入句子长度理论上可以无限长吗? 「腾讯」

    原题
  9. 【LLM底层原理】LLM的底层原理有没有了解? 「字节跳动」

    原题
  10. 【LLM架构】大模型LLM的架构介绍? 「腾讯、腾讯混元」

    原题