返回全部题目← 上一题93 / 136下一题 →题库/模型训练与对齐/Q-5704多模态多任务训练如何平衡不同优化目标?知识专题:训练框架、调参与排障题目类型:方案设计技术难度:进阶收录题集:8 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi(新窗口打开)Qwen千问(新窗口打开)OpenAIChatGPT(新窗口打开)自动带入当前题目本题目录收录题集相关题目收录题集8 份预训练与架构阿东玩 AI · AgentGuide · 1 条原题查看题集 →【预训练跷跷板效应】pretrain会不会存在跷跷板效应? 「美团」SFT与指令微调阿东玩 AI · AgentGuide · 2 条原题查看题集 →【SFT难易任务平衡】SFT训练过程中如何平衡简单任务与复杂任务的训练权重? 「美团」【多任务Loss权重平衡】在SFT阶段,如何平衡多任务(代码、数学、通用对话)的Loss权重? 「字节跳动」多模态与计算机视觉阿东玩 AI · AgentGuide · 2 条原题查看题集 →【预训练图像Token影响】你觉得预训练引入 image token 会不会对整体训练造成损失? 「腾讯」【多模态预训练梯度稳定】在进行大规模分布式多模态预训练时,经常遇到不同模态(例如高维图像和离散文本)梯度规模差异巨大且收敛速度不一致的问题,导致训练极不稳定甚至完全崩塌。你会引入怎样的损失函数设计或梯度缩放机制来稳定训练过程? 「腾讯」推荐搜索与广告阿东玩 AI · AgentGuide · 6 条原题查看题集 →【多任务梯度冲突】多任务建模中梯度冲突(如ESMM中的跷跷板问题)如何解决?除了PCGrad还有什么方法? 「美团、腾讯、阿里巴巴」在离线效果不一致是为什么,为什么稀疏目标学的不好? 「字节跳动」【多任务局部最优】多任务建模陷入局部最优的解决办法。 「阿里巴巴」展开其余 3 条原题【多目标特征融合问题】把所有的目标和特征放到主模型里,有什么问题嘛? 「字节跳动」【多任务跷跷板问题】联合训练的话怎么处理跷跷板问题呢? 「阿里巴巴」【端到端推荐】探索推荐系统端到端建模方法,研究如何统一召回、排序,实现跨阶段统一建模、统一目标与统一优化。进一步,针对端到端生成式推荐,如何设计多目标损失? 「字节跳动、阿里巴巴」深度学习基础汇编阿东玩 AI · AgentGuide · 9 条原题查看题集 →【多损失函数冲突与设计】项目里面用的loss不同不会有冲突吗,为什么会用到这些loss。每个loss的做法拷打。 「美团」【Loss拉扯现象】有没有出现loss拉扯现象? 「腾讯混元」【多损失权重平衡】(追问)如何平衡不同损失项的权重? 「腾讯」展开其余 6 条原题【辅助损失系数调整】Auxiliary loss系数怎么调? 「百度」【Loss设计与自适应权重】项目中Loss是怎么设计的,知不知道一些自适应的调loss权重的方法? 「美团」【多任务Loss平衡】多任务 loss 加权:uncertainty weighting / GradNorm / DWA 各自适用场景。多任务学习各loss差异过大怎样处理?包括多任务loss平衡方式、回归损失主导训练时的处理、如何考虑loss weight。 「字节跳动、百度、美团、腾讯、腾讯混元」【多任务冲突解决】单模型覆盖多个任务,怎么解决任务冲突/trade-off? 「蚂蚁集团」【跷跷板现象解决】如何解决跷跷板现象? 「腾讯」请解释一下多任务学习在音视频处理中的应用及其优势? 「字节跳动」展开剩余 3 份题集阿里巴巴问答汇编Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →多业务标准不统一,单模型如何承载多任务、规避任务冲突问题?多模态训练与微调Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →在多模态预训练中,如何平衡不同预训练任务的优化目标?请分析几种多任务学习策略的优劣势06_AI视频统一系统、创作工作流与未来趋势Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →多任务共享为什么会产生负迁移,如何定位和缓解?相关题目4 题0100项目中的强化学习框架是如何搭建的?同一知识专题题目类型:项目深挖技术难度:深入相关面经:2 篇0101verl 中的 Agent Loop 如何实现?同一知识专题题目类型:原理机制技术难度:进阶相关面经:1 篇0276训练正常而离线评测骤降时,如何定位链路问题?同一知识专题题目类型:故障排查技术难度:深入相关面经:1 篇0381资源受限的微调中,如何判断学习率过高或过低?同一知识专题题目类型:故障排查技术难度:进阶相关面经:1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题Triplet Loss 如何用锚点、正例和负例学习表示?下一题 →PyTorch、torchvision、CUDA 与 cuDNN 分别承担什么职责?