真面经，好答案。面试之前，先来面栈。

预训练与架构

题集来源：阿东玩 AI（Adong）收录项目：AgentGuide查看原题集

题目目录

254 道原题

  1. 【预训练与后训练思考】讲了下自己对模型预训练后训练的思考 「拼多多」

    原题
    关联题目预训练、后训练到推理的流程是什么？模型训练与对齐 / 预训练、续训与 SFT原理机制基础3篇相关面经

  2. 【领域继续预训练】领域模型Continue PreTrain，如何让模型在预训练过程中就学习到更多的知识？数据如何选取？ 「字节跳动、百度、腾讯混元」

    原题
    关联题目如何提高领域继续预训练中的知识学习效果？模型训练与对齐 / 预训练、续训与 SFT方案设计进阶0篇相关面经关联题目领域大模型预训练或继续预训练时，如何选择和组织训练语料？模型训练与对齐 / 训练数据构建与治理方案设计进阶0篇相关面经

  3. 【模型架构优化】如果对一个老汤模型进行架构优化，例如加宽参数层等，怎么样才能让新模型打败老汤模型? 「百度」

    原题

    “老汤模型”未说明具体模型与比较条件。

    关联题目训练一个模型需要哪些步骤和关注点？模型训练与对齐 / 预训练、续训与 SFT原理机制进阶2篇相关面经

  4. 【知识图谱映射】如何映射知识图谱与大模型之间神经元的关系？ 「阿里巴巴」

    原题
    关联题目如何研究知识图谱事实与语言模型内部表示之间的对应关系？模型基础与推理 / 模型架构与表示方案设计进阶0篇相关面经