真面经，好答案。面试之前，先来面栈。

预训练与微调

题集来源：Firefly（wdndev）收录项目：llm_interview_note查看原题集

题目目录

25 道原题

  1. 为什么要增量预训练？

    原题
    关联题目为什么要对已有语言模型进行继续预训练，适用于哪些需求？模型训练与对齐 / 预训练、续训与 SFT技术决策进阶0篇相关面经

  2. 进行增量预训练需要做哪些准备工作？

    原题
    关联题目对已有大模型进行继续预训练，需要哪些准备与执行步骤？模型训练与对齐 / 预训练、续训与 SFT操作实践进阶0篇相关面经

  3. 增量预训练所用训练框架？

    原题
    关联题目了解或使用过哪些训练框架？项目与综合面试 / 能力成长与学习方法经历介绍1篇相关面经

  4. 增量预训练数据选取思路有哪些？

    原题
    关联题目领域大模型预训练或继续预训练时，如何选择和组织训练语料？模型训练与对齐 / 训练数据构建与治理方案设计进阶0篇相关面经

  5. 增量预训练训练流程是怎么样？

    原题
    关联题目对已有大模型进行继续预训练，需要哪些准备与执行步骤？模型训练与对齐 / 预训练、续训与 SFT操作实践进阶0篇相关面经