SFT与指令微调
【微调经验】做过微调吗？ 「京东」
原题LoRA（Low-Rank Adaptation）的核心原理是什么？请解释其基本思想、公式（包括AB矩阵与W矩阵的关系）、参数冻结方式。
LoRA加在了哪些层？为什么这样加？
LoRA的作用和应用场景是什么？
什么是PEFT（Parameter-Efficient Fine-Tuning）？请概述。
微调为什么要用LoRA？说一下LoRA的公式。（追问）LoRA插入在哪些层？
除了LoRA，还有哪些PEFT方法？
原题完整原题
【LoRA与PEFT】1. LoRA（Low-Rank Adaptation）的核心原理是什么？请解释其基本思想、公式（包括AB矩阵与W矩阵的关系）、参数冻结方式。2. LoRA加在了哪些层？为什么这样加？3. LoRA的作用和应用场景是什么？4. 什么是PEFT（Parameter-Efficient Fine-Tuning）？请概述。5. 微调为什么要用LoRA？说一下LoRA的公式。（追问）LoRA插入在哪些层？除了LoRA，还有哪些PEFT方法？ 「京东、字节Seed、字节跳动、百度、美团、腾讯、腾讯混元、蚂蚁集团、阿里巴巴、阿里通义」
「京东、字节跳动、拼多多、百度、美团、腾讯、蚂蚁集团、阿里巴巴」
什么是SFT（Supervised Fine-Tuning）？请说明其动机、目的、流程、损失函数计算方式、训练时长、计算阶段（prefill还是decode）、与RLHF的动机区别、与后训练的区别、与预训练的区别、与直接使用主模型预测的区别。
什么是后训练（Post-training）？常见方法有哪些？
什么是灾难性遗忘？如何缓解？
你之前使用过哪些后训练方法？微调过哪些大小的模型？
原题完整原题
【SFT与微调基础】1. 什么是SFT（Supervised Fine-Tuning）？请说明其动机、目的、流程、损失函数计算方式、训练时长、计算阶段（prefill还是decode）、与RLHF的动机区别、与后训练的区别、与预训练的区别、与直接使用主模型预测的区别。2. 什么是后训练（Post-training）？常见方法有哪些？3. 什么是灾难性遗忘？如何缓解？4. 你之前使用过哪些后训练方法？微调过哪些大小的模型？ 「京东、字节跳动、拼多多、百度、美团、腾讯、蚂蚁集团、阿里巴巴」
【SFT学习内容】大模型LLM进行SFT操作的时候在学习什么？ 「字节跳动、腾讯混元」
原题【全量微调经验】有没有全量微调？ 「腾讯」
原题【后训练概述】后训练了解吗？有什么看法？有没有做过模型的后训练？ 「百度、腾讯、阿里巴巴」
原题【对齐阶段】对齐任务一般放在哪个阶段进行？ 「蚂蚁集团」
原题【微调数据结构与规模】微调数据集的结构是怎样的，有多少条数据？ 「腾讯、蚂蚁集团」
原题【微调方式选择】大模型微调项目用的是什么方式？如何做微调（SFT）？ 「京东、蚂蚁集团」
原题【微调框架】在微调大模型时，你使用过哪些框架？请具体说明基于PyTorch的框架。 「京东、拼多多、腾讯」
原题
暂无题目