真面经，好答案。面试之前，先来面栈。

预训练、续训与 SFT

本分类共 9 个专题 · 704 道题

已筛选

共 91 道题

排序：

4627
什么是灾难性遗忘，为什么大模型微调需要关注它？
模型训练与对齐预训练、续训与 SFT
原理机制
进阶
暂无面经4 份题集
4634
大语言模型预训练通常使用什么预测目标，它如何形成训练信号？
模型训练与对齐预训练、续训与 SFT
原理机制
基础
暂无面经4 份题集
4635
因果语言建模与掩码语言建模有什么区别？
模型训练与对齐预训练、续训与 SFT
比较选型
基础
暂无面经4 份题集
4636
大模型预训练中的 Scaling Law 是什么，对资源配置有什么指导意义？
模型训练与对齐预训练、续训与 SFT
原理机制
进阶
暂无面经11 份题集
4637
自监督学习为什么对大语言模型预训练重要？
模型训练与对齐预训练、续训与 SFT
原理机制
基础
暂无面经2 份题集
4708
为什么要对已有语言模型进行继续预训练，适用于哪些需求？
模型训练与对齐预训练、续训与 SFT
技术决策
进阶
暂无面经6 份题集
4710
GLM 自回归空白填充与 BERT 掩码语言建模有什么区别？
模型训练与对齐预训练、续训与 SFT
比较选型
深入
暂无面经2 份题集
4722
SFT 后可能出现哪些质量与泛化问题？
模型训练与对齐预训练、续训与 SFT
原理机制
进阶
暂无面经3 份题集
4734
什么是迁移学习，大模型如何利用预训练能力适配下游任务？
模型训练与对齐预训练、续训与 SFT
概念解释
基础
暂无面经14 份题集
4781
Llama 3 采用哪些数据配比、训练稳定性和长上下文扩展策略？
模型训练与对齐预训练、续训与 SFT
原理机制
深入
暂无面经1 份题集