SFT与指令微调

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

182 道原题
  1. 【多轮对话训练难点】多轮对话训练在infra/算法上难点在哪里? 「腾讯混元」

    原题
  2. 【多领域数据融合】后训练中如何融合 math、code、中文、agent等多个领域或方向的数据? 「字节跳动」

    原题
  3. 【多领域混训能力平衡】多领域数据混训时,如何避免某个能力提升导致其他能力下降? 「字节跳动」

    原题
  4. 【大规模数据处理后训练】在面对工业界百亿规模数据,如何合理的处理数据用于完整的后训练。 「蚂蚁集团」

    原题
  5. 【安全对齐后训练】如何针对“拒绝回答有害问题”这一能力进行专项的后训练优化请描述技术思路。 「蚂蚁集团」

    原题
  6. 【小模型蒸馏thinking模型】边缘场景下用小模型去蒸馏带thinking的模型可以怎么做? 「字节Seed」

    原题
  7. 【微调方法选择】对于不同的任务,如何选择最合适的微调方法或框架? 「腾讯」

    原题
  8. 【性能下降诊断】当后训练导致模型在某个下游任务上性能下降时,如何进行诊断和归因? 「蚂蚁集团」

    原题
  9. 【指令微调数据构造】Base model已经具备一定Agentic能力时,为什么还需要构造业务Agentic数据继续训练? 「字节跳动」

    原题
  10. 【摘要提取微调】如何训练一个大模型,让它能更好地精确提取摘要?(场景题:如何训练一个大模型,可以做到精确的提取摘要?) 「百度、百度文心」

    原题