SFT与指令微调
【后训练数据分层】后训练数据如何分层,适配不同游戏角色人设? 「腾讯」
原题【后训练架构】你整套后训练训练架构是怎么搭建的? 「字节跳动」
原题【回答质量判断】针对合适长度的回答怎么判断模型不是在凑字数钻空子得到的。 「蚂蚁集团」
原题【垂域微调通用能力保持】垂域指令微调后通用能力下降,如何解决?具体包括:如何在垂直领域训练之后保持通用领域能力?如何平衡大模型在通用能力与特定领域(如金融风控、客服)性能之间的关系? 「蚂蚁集团、阿里巴巴」
原题【垂直领域微调保留通用能力】项目:如果要微调你们这个模型到某些垂直领域,但是要保留多模态的这种通用能力,应该用什么办法来尽量保留模型的能力? 「美团」
原题【多任务Loss权重平衡】在SFT阶段,如何平衡多任务(代码、数学、通用对话)的Loss权重? 「字节跳动」
原题【多任务微调灾难性遗忘】使用LoRA进行多任务微调时,如何解决任务之间的灾难性遗忘或负迁移问题? 「字节跳动」
原题【多段SFT策略实验】多段SFT的策略怎么做的,对比了哪些实验得到了什么结论? 「腾讯」
原题【多轮对话Loss计算】多轮对话中对 tool 和 think 的 loss 如何计算的? 「拼多多」
原题【多轮对话能力提升】开放题:如果要提升大模型的多轮对话能力,你有哪些可以改进的点? 「字节跳动」
原题
暂无题目