已筛选

共 6433 道题

排序:

5207
为什么大语言模型的对齐与安全风险难以完全消除?
模型训练与对齐偏好对齐
开放讨论
—
5209
位置内插、NTK-aware、YaRN 与 LongRoPE 如何扩展 RoPE 上下文?
模型基础与推理Tokenizer 与位置编码
比较选型
深入
5210
Ring Attention 如何通过跨设备分块计算扩展长序列注意力?
模型基础与推理Transformer 与注意力
原理机制
深入
5211
QK-Norm 如何控制注意力分数尺度,与 FlashAttention 的优化目标有何不同?
模型基础与推理Transformer 与注意力
原理机制
进阶
5212
如何根据训练 FLOPs、硬件利用率和资源价格估算大模型训练周期与项目成本?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
5213
LLM 预训练语料清洗与常规数据清洗有何不同,如何平衡质量与覆盖?
模型训练与对齐训练数据构建与治理
方案设计
进阶
5214
如何对大模型预训练数据及处理配方进行版本管理,保证可追溯与可复现?
模型训练与对齐训练数据构建与治理
方案设计
进阶
5215
μP 与 μTransfer 如何支持从小模型向大模型迁移超参数?
模型训练与对齐训练框架、调参与排障
原理机制
深入
5216
如何设计大模型分布式训练的检查点、监控与断点恢复?
模型训练与对齐训练框架、调参与排障
方案设计
深入
5217
如何优化预训练数据加载管线,避免 GPU 等待输入?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶