模型训练与对齐

本分类共 9 个专题 · 704 道题

已筛选

共 704 道题

排序:

5214
如何对大模型预训练数据及处理配方进行版本管理,保证可追溯与可复现?
模型训练与对齐训练数据构建与治理
方案设计
进阶
5215
μP 与 μTransfer 如何支持从小模型向大模型迁移超参数?
模型训练与对齐训练框架、调参与排障
原理机制
深入
5216
如何设计大模型分布式训练的检查点、监控与断点恢复?
模型训练与对齐训练框架、调参与排障
方案设计
深入
5217
如何优化预训练数据加载管线,避免 GPU 等待输入?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
5218
LoRA+ 为什么对低秩矩阵使用不同学习率,与标准 LoRA 有何取舍?
模型训练与对齐参数高效微调
原理机制
进阶
5219
DoRA 如何分解权重的方向与幅度,与 LoRA 有什么区别?
模型训练与对齐参数高效微调
原理机制
进阶
5220
Adapter、Prefix Tuning、Prompt Tuning、P-Tuning 与 LoRA 如何比较和选择?
模型训练与对齐参数高效微调
比较选型
进阶
5221
VAPO 如何改进长推理强化学习中的价值与优势估计?
模型训练与对齐强化学习与奖励
原理机制
深入
5222
如何根据任务与工程约束选择大模型微调和后训练框架?
模型训练与对齐训练框架、调参与排障
比较选型
进阶
5227
为什么应将上下文压缩纳入长程 Agent 训练,如何验证其作用?
模型训练与对齐强化学习与奖励
原理机制
深入