返回全部题目← 上一题63 / 91下一题 →题库/模型训练与对齐/Q-4888如何提高领域继续预训练中的知识学习效果？知识专题：预训练、续训与 SFT题目类型：方案设计技术难度：进阶收录题集：3 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）自动带入当前题目本题目录收录题集相关题目收录题集3 份预训练与架构阿东玩 AI · AgentGuide · 1 条原题查看题集 →【领域继续预训练】领域模型Continue PreTrain，如何让模型在预训练过程中就学习到更多的知识？数据如何选取？ 「字节跳动、百度、腾讯混元」SFT与指令微调阿东玩 AI · AgentGuide · 1 条原题查看题集 →【长尾知识数据构造】针对长尾知识(冷门历史事件、特定领域术语)，如何构造数据以确保模型能够记住且不遗忘？ 「字节跳动」预训练与微调Firefly · llm_interview_note · 1 条原题查看题集 →领域模型Continue PreTrain ，如何 让模型在预训练过程中就学习到更多的知识？相关题目4 题0083如何提升 Agent 的长程任务能力？同一知识专题题目类型：方案设计技术难度：进阶相关面经：2 篇0085当 pass@k 与 pass@1 的差距收敛后，如何继续提升模型能力？同一知识专题题目类型：方案设计技术难度：深入相关面经：1 篇0207基座已有工具调用能力时，Tool-use SFT 的训练目标是什么？同一知识专题题目类型：原理机制技术难度：进阶相关面经：2 篇0495你有哪些大模型后训练经验？同一知识专题题目类型：项目深挖技术难度：进阶相关面经：2 篇♥♥♥♥♥← 上一题已到最后一题← 上一题BERT 为什么选择遮蔽约 15% 的 Token，这个比例能否调整？下一题 →进行 SFT 时，应该选择 Base 模型还是 Chat 模型作为起点？
