SFT与指令微调
【多轮对话训练难点】多轮对话训练在infra/算法上难点在哪里? 「腾讯混元」
原题【多领域数据融合】后训练中如何融合 math、code、中文、agent等多个领域或方向的数据? 「字节跳动」
原题【多领域混训能力平衡】多领域数据混训时,如何避免某个能力提升导致其他能力下降? 「字节跳动」
原题【大规模数据处理后训练】在面对工业界百亿规模数据,如何合理的处理数据用于完整的后训练。 「蚂蚁集团」
原题【安全对齐后训练】如何针对“拒绝回答有害问题”这一能力进行专项的后训练优化请描述技术思路。 「蚂蚁集团」
原题【小模型蒸馏thinking模型】边缘场景下用小模型去蒸馏带thinking的模型可以怎么做? 「字节Seed」
原题【微调方法选择】对于不同的任务,如何选择最合适的微调方法或框架? 「腾讯」
原题【性能下降诊断】当后训练导致模型在某个下游任务上性能下降时,如何进行诊断和归因? 「蚂蚁集团」
原题【指令微调数据构造】Base model已经具备一定Agentic能力时,为什么还需要构造业务Agentic数据继续训练? 「字节跳动」
原题【摘要提取微调】如何训练一个大模型,让它能更好地精确提取摘要?(场景题:如何训练一个大模型,可以做到精确的提取摘要?) 「百度、百度文心」
原题
暂无题目