真面经，好答案。面试之前，先来面栈。

优化方法

题集来源：Rocky Ding（WeThinkIn）收录项目：AIGC-Interview-Book查看原题集

题目目录

34 道原题

  1. LayerNorm有什么作用？

    原题
    关联题目如何推导 LayerNorm 的前向计算与反向传播公式？模型基础与推理 / 模型架构与表示原理机制深入0篇相关面经

  2. AI模型权重0初始化，在训练过程中还能更新权重吗？AI模型权重0初始化有哪些优势和劣势？

    原题
    关联题目为什么神经网络需要适当初始化，常见方法如何选择？模型训练与对齐 / 训练框架、调参与排障原理机制进阶0篇相关面经

  3. Weight Normalization（WN）有什么作用？

    原题
    关联题目Weight Normalization 如何重参数化权重，与激活归一化有何区别？模型训练与对齐 / 训练框架、调参与排障原理机制进阶0篇相关面经

  4. 介绍一下RMSNorm的原理和作用

    原题
    关联题目RMSNorm 如何进行归一化？模型基础与推理 / 模型架构与表示原理机制进阶0篇相关面经