大语言模型
仅编码器（BERT类）、仅解码器（GPT类）和完整的编码器-解码器架构各有什么优缺点？
原题自注意力机制如何使大模型能够捕捉长距离依赖关系，它跟RNN有什么区别？
原题大模型为什么有上下文长度的概念？为什么它是指输入和输出的总长度？
原题大模型的分词器和传统的中文分词有什么区别？对于指定的词表，一句话是不是只有唯一的分词方式？
原题大模型是如何区分聊天历史中用户说的话和 AI 说的话的？
原题传统的静态词嵌入（如 word2vec）与大模型产生的上下文相关的嵌入相比，有什么区别？有了 与上下文相关的嵌入，静态词嵌入还有什么价值？
原题在 word2vec 等词嵌入空间中，存在 king – man + woman ≈ queen 的现象，这是为什么？大模型 的词元嵌入空间是否也有类似的属性？
原题注意力机制是如何计算上下文各个词元之间的相关性的？每个注意力头只关注一个词元吗？
原题如果需要通过修改尽可能少的参数值，让模型忘记某一特定知识，应该修改注意力层还是前馈神经网络层的参数。
原题为什么注意力机制需要多个头？跟简单地减少注意力头的数量相比，多查询注意力和分组查询 注意力优化有什么不同？它们优化的是训练阶段还是推理阶段？
原题
暂无题目