大模型基础面试题

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

96 道原题
  1. 为什么要优化KV Cache?

    原题
  2. MLA (Multi-head Latent Attention) 是什么?

    原题
  3. 为什么推理速度受限于显存带宽?

    原题
  4. 介绍一下Tokenizer怎么训练的

    原题
  5. WordPiece如何考虑语言模型的概率

    原题
  6. 介绍一下BPE&BBPE这两种Tokenization方法

    原题
  7. 解释下强化学习

    原题
  8. 强化学习中策略函数和值函数是什么

    原题
  9. DPO的原理

    原题
  10. PPO的原理

    原题