返回全部题目← 上一题30 / 32下一题 →题库/模型训练与对齐/Q-6348KTO 如何利用非成对的好坏反馈进行模型对齐?知识专题:偏好对齐题目类型:原理机制技术难度:进阶收录题集:2 份暂无参考答案未标记未标记待复习已掌握收藏询问 AI选择 AI 平台KimiKimi(新窗口打开)Qwen千问(新窗口打开)OpenAIChatGPT(新窗口打开)自动带入当前题目本题目录收录题集相关题目收录题集2 份后训练综合问答阿东玩 AI · AgentGuide · 1 条原题查看题集 →DPO 变体(ORPO/KTO/SimPO/Online DPO)分别解决什么?强化学习与对齐阿东玩 AI · AgentGuide · 1 条原题查看题集 →RLHF流程与算法对比 特别说明PPO与DPO的区别、PPO与GRPO的区别、DPO的数据构造方式及优势函数、如何平衡PPO的探索性与确定性;并对比PPO、DPO、GRPO、KTO等后训练方法的原理、Loss形式、优缺点、适用场景及落地场景;相关题目4 题0273SFT 与偏好数据如何构建,如何控制数据污染和分布偏移?同一知识专题题目类型:方案设计技术难度:进阶相关面经:1 篇0275如何从 KL 约束的强化学习目标推导 DPO 目标?同一知识专题题目类型:原理机制技术难度:深入相关面经:1 篇0604DPO 中好坏样例生成概率都下降的问题如何理解?同一知识专题题目类型:原理机制技术难度:进阶相关面经:1 篇0605DPOP 的全称是什么?同一知识专题题目类型:原理机制技术难度:进阶相关面经:1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题ORPO 如何将监督微调与偏好优化结合?下一题 →SimPO 的无参考模型偏好目标如何工作?