参数高效微调

本分类共 9 个专题 · 761 道题

已筛选

共 37 道题

排序:

0633
给定 7B 模型,如何计算 LoRA 参数及优化器显存分配?
模型训练与对齐参数高效微调
原理机制已有答案
进阶
2901
微调 Qwen 时如何选择训练阶段和损失函数?
模型训练与对齐参数高效微调
方案设计
进阶
4629
参数高效微调 PEFT 如何缓解全参数微调的限制?
模型训练与对齐参数高效微调
原理机制
进阶
4702
Prefix-tuning 如何通过可训练前缀适配模型?
模型训练与对齐参数高效微调
原理机制
进阶
4704
Prompt-tuning 如何工作,它训练哪些参数?
模型训练与对齐参数高效微调
原理机制
进阶
4753
用 Python 和 PyTorch 实现 LoRA 低秩适配器。
模型训练与对齐参数高效微调
代码题
深入
5220
Adapter、Prefix Tuning、Prompt Tuning、P-Tuning 与 LoRA 如何比较和选择?
模型训练与对齐参数高效微调
比较选型
进阶
0614
SFT 和 PEFT 训练中使用过哪些技巧?
模型训练与对齐参数高效微调
项目深挖
进阶
0627
为什么要对大模型微调?
模型训练与对齐参数高效微调
比较选型
基础
2912
如何理解任务微调的权重更新具有低内在秩这一假设?
模型训练与对齐参数高效微调
原理机制
进阶