模型训练与对齐

本分类共 9 个专题 · 1113 道题

18177

SFT 训练集应覆盖哪些任务与样本类型，怎样从公开资源构建？

模型训练与对齐训练数据构建与治理

方案设计

进阶

18184

PPO 的 Clip 截断与 KL 约束有什么区别，是否等价？

模型训练与对齐强化学习与奖励

原理机制

进阶

18185

PPO 已有 Critic 网络，为什么还需要 GAE？

模型训练与对齐强化学习与奖励

原理机制

进阶

18193

为改善多模态模型的幻觉，怎样构建后训练数据？

模型训练与对齐训练数据构建与治理

方案设计

进阶

18205

项目标注或训练数据不足时，有哪些解决思路？

模型训练与对齐训练数据构建与治理

方案设计

进阶

18210

训练集中不同难度样本应怎样配比和安排？

模型训练与对齐训练数据构建与治理

方案设计

进阶

18229

如何将以 Next Token Prediction 训练的 Qwen 模型适配为检索模型？

模型训练与对齐预训练、续训与 SFT

方案设计

进阶

18236

DeepSeek MoE 如何在没有辅助均衡损失时控制专家负载？

模型训练与对齐分布式训练与计算硬件

原理机制

进阶

1827

实习中的轨迹蒸馏具体如何实现？

模型训练与对齐蒸馏与模型合并

项目深挖

深入

18293

伪标签、自蒸馏和模型集成如何控制噪声，并验证各自收益？

模型训练与对齐训练数据构建与治理

方案设计

进阶