后训练:微调与对齐
什么是微调?与预训练、后训练、提示工程有什么关系?
原题大语言模型微调的目标有哪些?
原题全量参数微调与参数高效微调分别是什么?有什么区别?
原题大语言模型微调训练中的关键超参数有哪些?它们如何影响效果、成本和稳定性?
原题大语言模型微调后如何评估效果?
原题大语言模型监督微调数据如何构造?高质量 SFT 数据需要满足哪些要求?
原题大语言模型 SFT 中为什么通常只对助手回复计算损失?损失掩码应该如何设置?
原题大语言模型微调中如何避免过拟合和灾难性遗忘?
原题LoRA 的原理是什么?为什么适合大语言模型参数高效微调?
原题LoRA 的低秩矩阵 Rank 和 alpha 参数有什么作用?还有哪些关键参数?
原题
暂无题目