强化学习与对齐

题集来源:Firefly(wdndev)收录项目:llm_interview_note查看原题集

题目目录

66 道原题
  1. 请问我们一般怎么求解马尔可夫决策过程?

    原题
  2. 请问如果数据流不具备马尔可夫性质怎么办?应该如何处理?

    原题
  3. 请分别写出基于状态价值函数的贝尔曼方程以及基于动作价值函数的贝尔曼方程。

    原题
  4. 计算贝尔曼方程的常见方法有哪些,它们有什么区别?

    原题
  5. 马尔可夫奖励过程与马尔可夫决策过程的区别是什么?

    原题
  6. 请问最佳价值函数 $V^*$ 和最佳策略 $\pi^**$ 为什么等价呢?

    原题
  7. 能不能手写一下第n步的价值函数更新公式呀?另外,当 n越来越大时,价值函数的期望和方差是分别变大还是变小呢?

    原题

    题名写“期望和方差”,附带正文写“期望偏差”。

  8. 同学,能否简述同策略和异策略的区别呢?

    原题
  9. 能否细致地讲一下Q学习算法,最好可以写出其 $Q(s,a)$ 的更新公式。另外,它是同策略还是异策略,原因是什么呢?

    原题
  10. 能否讲一下与Q学习算法类似的Sarsa算法呢,最好也可以写出其对应的 $Q(s,a)$ 更新公式。另外,它是同策略还是异策略,为什么?

    原题