SFT与指令微调
【SFT后通用数据重要性】SFT之后不用通用数据会出现哪些问题（general能力下降、指令跟随能力下降）？实际使用经验。 「蚂蚁集团」
原题【SFT完整训练流程】详细描述，如果给一个txt存储的文本，从预处理到SFT的训练流程，要包括对数据的预处理、tokenize、forward、loss计算、参数更新，越细越好。 「字节Seed」
原题【SFT局限性】比较难接的一问：SFT不够用吗？ 「百度文心」
原题【SFT数据业务适配与去重】SFT数据如何更贴近业务：如何避免过度模板化？如何做基础的train/test去重来避免评测失真？ 「拼多多」
原题【SFT数据构建】SFT数据如何构建？缺数据怎么办？请说明SFT的核心流程与数据构建策略。如何构造数据使得SFT的收益尽可能大？ 「京东、字节跳动、百度、腾讯、腾讯混元、蚂蚁集团、阿里巴巴」
原题【SFT数据配比与动态调整】后面还问到了SFT的数据配比，比如高质量数据和普通数据应该怎么混合，要不要根据训练效果做动态调整。 「字节跳动」
原题【ToolCall数据构建与幻觉控制】说只build过一个关于crop image toolcall的SFT数据集，怎么控制crop的坐标，LLM在这个坐标上面会引入幻觉吗（导致toolcall的代码崩溃），怎么控制。 「字节跳动」
原题【专业能力微调方案】如果让你去训练Doubao的专业输出能力，会怎么做？ 「字节Seed」
原题【全参训练灾难性遗忘】全参训练对于其他的任务影响比较大怎么解决：比如图像理解，如果全参训练，在测试的时候会提升这个任务的精度但是其他任务的精度会掉点。 「阿里巴巴」
原题【后训练技术对比】请解释指令微调、人类反馈强化学习、价值观对齐等后训练技术的区别、联系及其各自的目标。 「蚂蚁集团」
原题
暂无题目