参数高效微调

本分类共 9 个专题 · 704 道题

已筛选

共 36 道题

排序:

4700
AdaLoRA 如何自适应分配低秩更新的参数预算?
模型训练与对齐参数高效微调
原理机制
深入
4701
参数高效微调中的 Adapter 如何工作,常见结构有哪些?
模型训练与对齐参数高效微调
原理机制
进阶
4702
Prefix-tuning 如何通过可训练前缀适配模型?
模型训练与对齐参数高效微调
原理机制
进阶
4703
P-tuning 如何学习连续提示参数?
模型训练与对齐参数高效微调
原理机制
进阶
4704
Prompt-tuning 如何工作,它训练哪些参数?
模型训练与对齐参数高效微调
原理机制
进阶
4753
用 Python 和 PyTorch 实现 LoRA 低秩适配器。
模型训练与对齐参数高效微调
代码题
深入
5218
LoRA+ 为什么对低秩矩阵使用不同学习率,与标准 LoRA 有何取舍?
模型训练与对齐参数高效微调
原理机制
进阶
5219
DoRA 如何分解权重的方向与幅度,与 LoRA 有什么区别?
模型训练与对齐参数高效微调
原理机制
进阶
5220
Adapter、Prefix Tuning、Prompt Tuning、P-Tuning 与 LoRA 如何比较和选择?
模型训练与对齐参数高效微调
比较选型
进阶
5827
LoHa 如何用低秩 Hadamard 乘积参数化权重更新?
模型训练与对齐参数高效微调
原理机制
进阶