已筛选

共 6433 道题

排序:

4679
GRPO 训练 MoE 模型时可能出现哪些问题,应如何定位和改进?
模型训练与对齐训练框架、调参与排障
故障排查
深入
4680
强化学习训练为什么容易不稳定,哪些收益使它仍值得使用?
模型训练与对齐强化学习与奖励
原理机制
进阶
4681
稀疏注意力如何降低计算复杂度,常见连接模式有哪些?
模型基础与推理Transformer 与注意力
原理机制
进阶
4682
如何估算 7B 模型训练显存,并量化 ZeRO 各阶段的节省?
模型训练与对齐分布式训练与计算硬件
方案设计
深入
4683
分布式训练中,FSDP 与 DeepSpeed ZeRO 应如何选择?
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
4684
vLLM 通过哪些机制提高大模型推理效率?
模型基础与推理推理优化与模型压缩
原理机制
进阶
4685
模型量化后理解能力下降,应如何定位并补偿精度损失?
模型基础与推理推理优化与模型压缩
故障排查
进阶
4686
FP16、BF16 与 FP32 有什么区别,训练时如何选择?
模型训练与对齐分布式训练与计算硬件
比较选型
进阶
4687
Transformer 为什么通常使用 LayerNorm 而不是 BatchNorm?
模型基础与推理Transformer 与注意力
比较选型
进阶
4688
大模型训练为什么需要 Warmup,应如何设置预热步数或比例?
模型训练与对齐训练框架、调参与排障
原理机制
基础