模型训练与对齐

本分类共 9 个专题 · 704 道题

已筛选

共 704 道题

排序:

4632
什么是梯度累积,它如何帮助大模型微调?
模型训练与对齐训练框架、调参与排障
原理机制
进阶
4633
有哪些方法可以提高大模型微调的训练速度?
模型训练与对齐训练框架、调参与排障
方案设计
进阶
4634
大语言模型预训练通常使用什么预测目标,它如何形成训练信号?
模型训练与对齐预训练、续训与 SFT
原理机制
基础
4635
因果语言建模与掩码语言建模有什么区别?
模型训练与对齐预训练、续训与 SFT
比较选型
基础
4636
大模型预训练中的 Scaling Law 是什么,对资源配置有什么指导意义?
模型训练与对齐预训练、续训与 SFT
原理机制
进阶
4637
自监督学习为什么对大语言模型预训练重要?
模型训练与对齐预训练、续训与 SFT
原理机制
基础
4673
大模型训练常用哪些优化器,AdamW 与 Adam 有什么区别?
模型训练与对齐训练框架、调参与排障
比较选型
进阶
4676
RLHF 奖励模型通常采用什么架构,它与待优化语言模型是什么关系?
模型训练与对齐强化学习与奖励
原理机制
进阶
4677
SFT 数据集是否越大越好,如何判断数据规模与效果的关系?
模型训练与对齐训练数据构建与治理
效果评估
进阶
4678
SFT 与强化学习有哪些优缺点,应如何按任务场景选择?
模型训练与对齐强化学习与奖励
比较选型
进阶