预训练、续训与 SFT

本分类共 9 个专题 · 704 道题

已筛选

共 91 道题

排序:

4815
大语言模型的持续学习是什么,如何兼顾新知识与已有能力?
模型训练与对齐预训练、续训与 SFT
原理机制
进阶
4860
BERT 为什么选择遮蔽约 15% 的 Token,这个比例能否调整?
模型训练与对齐预训练、续训与 SFT
原理机制
进阶
4888
如何提高领域继续预训练中的知识学习效果?
模型训练与对齐预训练、续训与 SFT
方案设计
进阶
4889
进行 SFT 时,应该选择 Base 模型还是 Chat 模型作为起点?
模型训练与对齐预训练、续训与 SFT
比较选型
进阶
4890
对已有大模型进行继续预训练,需要哪些准备与执行步骤?
模型训练与对齐预训练、续训与 SFT
操作实践
进阶
4930
MoE 的专家数量如何影响预训练效率、模型能力和资源需求?
模型训练与对齐预训练、续训与 SFT
原理机制
进阶
4935
BERT 的 MLM 为什么混合使用遮蔽、随机替换和保留原词?
模型训练与对齐预训练、续训与 SFT
原理机制
进阶
4937
BERT 输入长度受限时,如何处理长文本并完成训练?
模型训练与对齐预训练、续训与 SFT
方案设计
进阶
4941
MoE 模型微调时,如何缓解过拟合?
模型训练与对齐预训练、续训与 SFT
方案设计
进阶
5028
如何微调视觉语言模型以适配目标任务?
模型训练与对齐预训练、续训与 SFT
方案设计
进阶