返回全部题目← 上一题24 / 136下一题 →题库/模型训练与对齐/Q-4632什么是梯度累积，它如何帮助大模型微调？知识专题：训练框架、调参与排障题目类型：原理机制技术难度：进阶收录题集：3 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）自动带入当前题目本题目录收录题集相关题目收录题集3 份AI系统与训练推理工程阿东玩 AI · AgentGuide · 4 条原题查看题集 →【Micro-Batch与Global Batch】Micro-Batch(MB)和GlobalBatch(GB)之间有什么区别？ 「阿里通义」【梯度累加原理】梯度累加的原理是什么？ 「阿里巴巴」【micro-batch/gradient accumulation/global batch区别】请区分micro-batch、gradient accumulation、global batch，它们各自影响什么？请详细解释三者的概念和影响。 「字节跳动」展开其余 1 条原题【梯度累积】什么是梯度累积(Gradient Accumulation)?何时使用？ 「蚂蚁集团」深度学习精华·训练与优化Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →梯度累积（Gradient Accumulation）的核心原理是什么？和直接增大 Batch Size 有什么本质区别？有哪些适用场景？预训练：训练与数据处理Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →全局批大小（global batch）、梯度累积与临界批大小（critical batch size）应如何共同确定？相关题目4 题0100项目中的强化学习框架是如何搭建的？同一知识专题题目类型：项目深挖技术难度：深入相关面经：2 篇0101verl 中的 Agent Loop 如何实现？同一知识专题题目类型：原理机制技术难度：进阶相关面经：1 篇0276训练正常而离线评测骤降时，如何定位链路问题？同一知识专题题目类型：故障排查技术难度：深入相关面经：1 篇0381资源受限的微调中，如何判断学习率过高或过低？同一知识专题题目类型：故障排查技术难度：进阶相关面经：1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题PPO 对齐训练的 KL 惩罚系数过大或过小有什么影响，应如何调节？下一题 →有哪些方法可以提高大模型微调的训练速度？
