SFT与指令微调

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

182 道原题
  1. 【后训练数据分层】后训练数据如何分层,适配不同游戏角色人设? 「腾讯」

    原题
  2. 【后训练架构】你整套后训练训练架构是怎么搭建的? 「字节跳动」

    原题
  3. 【回答质量判断】针对合适长度的回答怎么判断模型不是在凑字数钻空子得到的。 「蚂蚁集团」

    原题
  4. 【垂域微调通用能力保持】垂域指令微调后通用能力下降,如何解决?具体包括:如何在垂直领域训练之后保持通用领域能力?如何平衡大模型在通用能力与特定领域(如金融风控、客服)性能之间的关系? 「蚂蚁集团、阿里巴巴」

    原题
  5. 【垂直领域微调保留通用能力】项目:如果要微调你们这个模型到某些垂直领域,但是要保留多模态的这种通用能力,应该用什么办法来尽量保留模型的能力? 「美团」

    原题
  6. 【多任务Loss权重平衡】在SFT阶段,如何平衡多任务(代码、数学、通用对话)的Loss权重? 「字节跳动」

    原题
  7. 【多任务微调灾难性遗忘】使用LoRA进行多任务微调时,如何解决任务之间的灾难性遗忘或负迁移问题? 「字节跳动」

    原题
  8. 【多段SFT策略实验】多段SFT的策略怎么做的,对比了哪些实验得到了什么结论? 「腾讯」

    原题
  9. 【多轮对话Loss计算】多轮对话中对 tool 和 think 的 loss 如何计算的? 「拼多多」

    原题
  10. 【多轮对话能力提升】开放题:如果要提升大模型的多轮对话能力,你有哪些可以改进的点? 「字节跳动」

    原题