预训练与架构
【RoPE】为什么要用旋转位置编码？ 「阿里通义」
原题【RoPE位置编码】请解释RoPE旋转位置编码的原理、作用，以及相对于传统位置编码的优点。 「字节跳动、百度」
原题【Transformer参数更新】在大模型训练过程中，Transformer通常会更新哪些参数？ 「美团」
原题【Transformer架构对比】比较Encoder-only、Decoder-only、Encoder-Decoder三类模型的优缺点、区别与适用场景；阿里通义千问属于哪种架构？ 「京东、字节跳动、百度、阿里巴巴、阿里通义」
原题【代码数据重要性】在代码数据这个环节，什么比较重要？ 「腾讯」
原题【位置编码】大模型常用的位置编码方式有哪些？扩展有哪些（如RoPE等）？ 「百度文心、腾讯、阿里通义」
原题【参数量与模型能力】参数量和模型能力之间是什么关系? 「字节跳动」
原题【增量预训练】增量预训练中的增量具体指什么？ 「腾讯」
原题【大模型介绍】了解哪些大模型，简要挑一两个介绍一下？ 「腾讯」
原题【大模型优势】大模型比传统模型好在哪？ 「腾讯」
原题
暂无题目