模型训练与对齐

本分类共 9 个专题 · 704 道题

已筛选

共 704 道题

排序:

4778
如何设计实验比较不同模型蒸馏策略的效果?
模型训练与对齐蒸馏与模型合并
效果评估
进阶
4781
Llama 3 采用哪些数据配比、训练稳定性和长上下文扩展策略?
模型训练与对齐预训练、续训与 SFT
原理机制
深入
4783
如何设计 Function Calling 微调数据的自动生成与质量验证系统?
模型训练与对齐训练数据构建与治理
系统设计
进阶
4811
RLHF 提高安全性却损害困难任务能力时,如何评估和缓解对齐税?
模型训练与对齐偏好对齐
故障排查
深入
4815
大语言模型的持续学习是什么,如何兼顾新知识与已有能力?
模型训练与对齐预训练、续训与 SFT
原理机制
进阶
4860
BERT 为什么选择遮蔽约 15% 的 Token,这个比例能否调整?
模型训练与对齐预训练、续训与 SFT
原理机制
进阶
4865
Transformer 中 Dropout 通常如何设置,训练与推理时有什么区别?
模型训练与对齐训练框架、调参与排障
原理机制
进阶
4870
大模型 SFT 的训练样本应采用什么输入与监督数据格式?
模型训练与对齐训练数据构建与治理
操作实践
进阶
4871
大语言模型 PPO 对齐训练中的输入数据与采样记录如何组织?
模型训练与对齐训练数据构建与治理
原理机制
进阶
4872
常见的大模型训练数据集与获取渠道有哪些?
模型训练与对齐训练数据构建与治理
操作实践
基础