大模型基础面试题题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集 题目目录96 道原题隐藏关联题目排序默认排序面经最多61为什么要优化KV Cache?原题 关联题目KV Cache 缓存什么,怎样影响推理速度和显存?已有答案模型基础与推理 / 推理优化与模型压缩原理机制进阶5篇相关面经62MLA (Multi-head Latent Attention) 是什么?原题 关联题目MLA 的原理是什么?模型基础与推理 / 模型架构与表示原理机制进阶3篇相关面经63为什么推理速度受限于显存带宽?原题 关联题目大模型解码速度为什么经常受显存带宽限制?模型基础与推理 / 推理优化与模型压缩原理机制进阶0篇相关面经64介绍一下Tokenizer怎么训练的原题 关联题目Tokenizer 如何从语料中训练出词表和分词规则?模型基础与推理 / Tokenizer 与位置编码操作实践进阶0篇相关面经65WordPiece如何考虑语言模型的概率原题 关联题目WordPiece 如何利用语言模型概率或关联评分选择词表合并?模型基础与推理 / Tokenizer 与位置编码原理机制进阶0篇相关面经66介绍一下BPE&BBPE这两种Tokenization方法原题 关联题目BPE 与字节级 BPE(BBPE)如何工作,有什么区别?模型基础与推理 / Tokenizer 与位置编码比较选型进阶0篇相关面经67解释下强化学习原题 关联题目强化学习包含哪些主要组件?已有答案模型训练与对齐 / 强化学习与奖励概念解释基础3篇相关面经68强化学习中策略函数和值函数是什么原题 关联题目强化学习中的策略函数、状态值函数和动作值函数分别是什么?模型训练与对齐 / 强化学习与奖励概念解释基础0篇相关面经69DPO的原理原题 关联题目DPO 的算法原理是什么?已有答案模型训练与对齐 / 偏好对齐原理机制进阶4篇相关面经70PPO的原理原题 关联题目PPO 算法原理是什么?已有答案模型训练与对齐 / 强化学习与奖励原理机制进阶9篇相关面经暂无题目共 96 道原题 · 显示 61–70 道展开全部96题上一页1…678…107 / 10下一页