强化学习与对齐

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集

题目目录

194 道原题
  1. DQN相关问题:

    「字节跳动、腾讯混元」

    1. 写一下DQN的伪代码。

    2. 强化学习中的Q值是怎么学习的,讲解TD loss。

    完整原题

    【DQN】DQN相关问题:1. 写一下DQN的伪代码。2. 强化学习中的Q值是怎么学习的,讲解TD loss。 「字节跳动、腾讯混元」

    原题
  2. 【GAE】GAE的原理是什么?它有哪些参数(如λ)?一般如何调参?为什么λ经常设置成0.95? 「字节Seed、腾讯、阿里巴巴」

    原题
  3. 【On-policy vs Off-policy】请解释on-policy和off-policy的区别、各自的优缺点以及适用场景;能否混搭policy/Off-policy? 「腾讯、蚂蚁集团、阿里巴巴、阿里通义」

    原题
  4. 【PPO】为什么策略更新幅度大了就会不好?以及为什么clip比trust region更实用? 「京东、百度」

    原题
  5. 【RL vs 模仿学习】为什么要分为模仿学习和强化学习两个阶段? 「字节跳动」

    原题
  6. 「字节跳动、蚂蚁集团」

    1. 有提到借鉴了Transformer的作为强化学习的编码器,那么Transformer在其中起到了什么作用?和提到的LSTM的优劣是什么?

    完整原题

    【RL算法概述】了解AGI相关的强化学习算法吗(RLHF/PPO等)? 传统强化了解多少?reinforce++了解吗?有提到借鉴了Transformer的作为强化学习的编码器,那么Transformer在其中起到了什么作用?和提到的LSTM的优劣是什么? 「字节跳动、蚂蚁集团」

    原题
  7. 【RL算法选型】RL算法选型要考虑哪些因素? 「字节跳动」

    原题
  8. RL训练经验相关问题:

    「京东、字节跳动、美团、腾讯、蚂蚁集团、阿里巴巴」

    1. 做到什么程度可以进行RL?

    展开其余 5 个小问
    1. RL训练前期学不动怎么办?

    2. 做RL时同组内样本差别不大怎么处理?

    完整原题

    【RL训练经验】RL训练经验相关问题:1. 做到什么程度可以进行RL?2. 同步RL的代价?3. 同轨迹策略版本不一致?4. 如何理解RL初期可能出现reward先下降,然后逐步上升的状态?5. 强化学习梯度传播的问题,有没有用detach?6. 强化学习的灾难性遗忘的问题。7. RL训练前期学不动怎么办?8. 为什么使用强化学习会存在训练不稳定问题?9. 做RL时同组内样本差别不大怎么处理? 「京东、字节跳动、美团、腾讯、蚂蚁集团、阿里巴巴」

    原题
  9. 【优势函数】RL中为什么要用优势函数(advantage),而不直接用原始奖励?ratio、advantage、returns分别如何理解?V_target怎么来的?为什么要使用多步时序估计优势? 「字节跳动、腾讯、阿里巴巴」

    原题
  10. 【信用分配】RL的信用分配是怎么做的? 「腾讯」

    原题