模型训练与对齐

本分类共 9 个专题 · 704 道题

已筛选

共 704 道题

排序:

6032
推荐大模型微调时,如何定义输入、监督目标与训练样本?
模型训练与对齐训练数据构建与治理
方案设计
进阶
6039
离线与在线策略学习在数据来源、更新和验证上有什么区别?
模型训练与对齐强化学习与奖励
比较选型
进阶
6060
实现 Kaiming 权重初始化。
模型训练与对齐训练框架、调参与排障
代码题
进阶
6073
实现结合软标签与真实标签的知识蒸馏损失。
模型训练与对齐蒸馏与模型合并
代码题
进阶
6074
实现 MoE 路由负载均衡辅助损失。
模型训练与对齐预训练、续训与 SFT
代码题
进阶
6076
实现多未来词元预测的损失计算。
模型训练与对齐预训练、续训与 SFT
代码题
进阶
6077
从零实现 Adam 或 AdamW 参数更新。
模型训练与对齐训练框架、调参与排障
代码题
进阶
6078
实现带线性预热的学习率调度。
模型训练与对齐训练框架、调参与排障
代码题
进阶
6079
实现模型参数的指数移动平均。
模型训练与对齐训练框架、调参与排障
代码题
进阶
6080
实现或接入激活检查点以重计算换取显存。
模型训练与对齐分布式训练与计算硬件
代码题
深入