简介

• 简介
• 从训练机器人行走开始
• 什么是强化学习
  • 强化学习的数学建模基础
  • 基于价值的强化学习（参考）
  • 基于策略的强化学习（参考）
  • 算法分类
• Policy Gradient（策略梯度）
• actor-critic
  • actor_loss 演变过程
  • critic_loss 演化过程
  • 重要性采样
  • GAE
• llm与强化学习
  • RL4LMs/rl 与llm post-train
  • 汇总
• online/offline policy

强化学习的目标是找到一个「策略」，所谓策略，就是「在某个环境状态下，需要采取某个动作」。这里的「学习」二字，可以借由「机器学习」的概念去理解，你可以笼统地认为为是「用一个函数去逼近这个策略」。而「神经网络」就可以看做是这个函数逼近器。而「强化」二字，可以借由「控制系统」的概念去理解，RL 算法是构建一个「闭环控制系统」，其目标是通过与环境的交互来优化决策。在不断地「采样-评估-更新」过程中，找到或逼近解一个高维动态规划问题的「最优策略」，其本质是求解由随机过程和不完全信息耦合所带来的高维优化问题。在这个视角下，RL的数学本质可以概括为：构建闭环的学习系统，利用反馈信息去逼近策略函数。PS：「闭环」是控制系统中的概念，具有反馈环节，能够感知系统输出的变化，并根据输出的变化进行调整。与之相对的是「开环」概念，没有反馈环节。

PS：单单是rl 强化学习本身的推导就是一门很厚的知识，搞明白actor-critic 就有百分之七八十了，之后是ppo 针对actor-critic 的一些调整，可以直接看PPO理论推导+代码实战

从训练机器人行走开始

策略梯度法入门—强化学习该例是要设计一个两腿机器人，使其能自动的行走。机器人左右腿的跨、膝、踝共有6个关节，都装有小电机，希望能自动控制它的6个小电机，使机器人能和人一样正常的行走。

强化学习需要一个软件系统，其基本组成包括：

1. 代理（Agent智能体）：是个软件，相当于机器人的大脑，是强化学习的核心。它可以接受环境状态的信息，还可以将计算的结果传输给环境。其中，负责计算的是个函数，称作策略（policy），是强化学习最重要的部分。

2. 环境（Environment）：代理以外的部分都是环境。和通常的环境概念不同，机器人所处的周边当然是环境，不同的是，机器人的躯体四肢都在代理之外，也都归于环境，比如躯干的高度，各个腿及各个关节的位置、速度等。此例中，环境状态使用31个观测值。包括

   1. 躯干沿Y和Z轴方向的坐标值，
   2. 躯干沿X、Y和Z方向的速度，
   3. 躯干旋转的角度和角速度，
   4. 6个关节的角度和角速度，
   5. 脚和地面之间的接触力。
3. 状态（State）：指环境的状态。机器人一直在移动，所以，周围环境的状态，以及自身各关节的状态也在不断的变化。
4. 行动（Action）：指代理根据当前状态采取的动作，比如机器人向左或向右，向前或向后移动等。
5. 奖励（Reward）：代理在当前状态下，采取了某个行动之后，会获得环境的反馈，称作奖励。但可能是奖励，也可能是惩罚，实际是代理对行动的评价。在强化学习中，奖励非常重要，因为样本没有标签，所以奖励起到引领学习的作用。

使机器人正常行走要做的工作。让两腿机器人正常行走，要做的工作是，用正确的指令控制每个关节，使机器人的腿和躯干正确的移动，这需要有六个关节的扭矩指令。在给定的环境状态下，如何得到正确的指令，这就是强化学习要做的工作。用传统方法开发机器人的行走程序，要人工设计逻辑、循环、控制器及参数等等，需要很多的环路，非常复杂。而强化学习的思想极为简单，它不考虑整个过程的具体步骤，不进行一步步的具体设计，而是把这一切复杂工作都塞到一个函数里，这个函数称作策略函数。策略收到环境传来的31个状态值，会自动计算出6个可供执行的指令,指令正确，机器人就会正常的行走。可以看出，强化学习中，机器人能正常行走的关键，就是这个策略函数。

所以下面的重点是：智能体里的策略函数是什么形式？它如何进行学习？如何通过环境状态值计算出6个正确的指令，使机器人能正常的行走。

1. 策略是个函数，因其过于复杂，很难用显性的公式来表式。对于这种连续且复杂的问题，强化学习是采用功能强大的神经网络来近似这个函数。这里策略神经网络是用的多层感知机（最基本的前馈神经网络），并以此为例进行说明。 神经网络包含多个隐藏层，每层都有数百个神经元，没有足够多的神经元，网络无法拟合这么复杂的非线性函数，不可能将31个观察值正确的映射到6个动作。但是，神经元过多，将花费更多的时间训练，还容易得到过拟合的逻辑。所以，如何选择网络结构，包括网络层的数量，各层如何连接，以及每层神经元的数量等等，需要丰富的经验和知识找到最佳平衡点，使训练即可行又有效。
2. 神经网络的学习过程。策略函数的学习过程，可以选择仿真或真实行走的方式。方法是让机器人不断的行走，不断的调整策略函数里的参数w和b，直至得到能使机器人正常行走的网络模型（策略函数）。一般前馈网络的学习，样本都有标签（标准答案），在一次前向传播后，计算出结果，先求计算结果与标签的误差（损失函数），再求损失函数对各个节点的偏导数（梯度），然后求出损失函数对各个参数w和b的偏导数，用这些参数的偏导数来调整各个参数。但是，强化学习是以状态观测值作为输入（样本），没有标签，当然也就没有损失函数，那么求谁的梯度（偏导数）？没有梯度怎么修改参数w和b？强化学习的作法是设计一个奖励函数，用动作的奖励函数作准则，来调整网络的参数。强化学习里奖励函数的作用，相当于一般神经网络里的损失函数。做法是，每输入31个环境状态值，用策略函数计算出6个动作指令，然后执行这6个动作指令，当然这会改变了环境的状态值，包括躯干和6个关节的位置和速度等，然后再计算这个动作的奖励函数值，通过提高奖励函数值来调整网络的各个参数w和b。注意，不是像一般前馈网络学习那样，通过减小损失函数来调整参数w和b。
3. 奖励函数。奖励函数是人工精心设计的，其作用相当于前馈网络或循环网络的标签，是引导机器人正常行走的根据。此例已经设计好的奖励函数是$ r_t = v_x -3y^2 - 50z^2 + 25xx - 0.22xx $，其中 $v_x$ 是前进速度，$v_x$ 越大，机器人走得越快。y是侧向位移，使机器人沿着一条直线移动，不向左右偏移，越小越好。z是机器人重心的垂直位移，是要机器人的躯干保持一定的高度，不摔倒、不跳跃或蹲着走路，越小越好。其余设置，这里不逐一深究。总之，这个奖励函数值越大，机器人走的就越好。奖励函数非常重要，但其设置是个难点，需要丰富的经验和专业知识。
4. 策略函数的学习过程。现在，策略函数是一个神经网络（多层感知机），策略能否做出正确的动作指令，取决于网络里的所有参数w和b。而评价一个动作优劣的标准，是这个动作的奖励函数，奖励函数的值越高，该动作就越好。所以，强化学习是求出奖励函数对各个参数w和b的梯度，让参数w和b沿着奖励函数的梯度方向调整，这样奖励函数值就会升高，下一次遇到同样的环境状态，策略计算出的指令就会更好。就这样，反复的调整参数w和b，最终得到一个可以时时做出正确指令的神经网络。 具体作法大意是
   1. 输入31个环境值；
   2. 网络计算得到6个指令，执行指令改变了环境，检 测得到了31个新环境值；
   3. 用检测到的31个新环境值，求奖励函数对各个参数w和b的梯度（偏导数），即反向传播；
   4. 修改网络所有的参数w和b；
   5. 返回到1，进行下一循环学习。 就这样，代理不断与环境交互，不断修改策略的参数，最终，在任何状态情况下，它都会采取最有利的行动。强化学习的过程，就是不断优化这个策略的过程，整个过程，是计算机自己在学习正确的参数，实际是个反复优化完善网络的过程。上述2执行6个指令后得到的新环境状态值，是环境检测出来的，和策略网络没有连在一起，用它求奖励函数值没问题，直接代入就行。但用这个新环境状态值对各个参数w和b求偏导数，就有问题了，因为它和策略网络根本没连接上。

PS： rl和dl都是在想办法，算一个loss，优化w和b。 lhy ml 约等于looking for a funtion, 对监督学习 label = func(input), 对rl来说，action=func(observation)。

什么是强化学习

众多表述

1. 强化学习（Reinforcement Learning, RL）是一种机器学习方法，模型通过与环境的交互来学习决策策略（a method to find a policy with high rewards）。模型在每一步的选择中会得到奖励或惩罚，目标是最大化长期的累积奖励。在自然语言处理（NLP）中，强化学习可以用于优化模型的输出，使其更符合期望的目标。强化学习算法主要以原来的训练结果为基础，只是不断调整新的处理结果与目标问题（强化学习算法本身的专业术语叫“环境”）之间的偏差（专业术语叫“奖励”）。
   1. RL包含行动、 环境、观察、奖励机制等模块，奖励机制是RL 具有特色的模块，在奖励机制出现之前，众多机器学习算法是通过损失函数的梯度更新来进行模型学习的，这种损失函数优化效果带来的是模型直接收益反馈，然而不同于传统机器学习任务的单一任务分析，针对复杂环境的分析以及任意动作的带来的奖励反馈极为动态，比如我们在驾驶场景，方向盘多转动5度所带来的奖励收益是极为复杂的，这也让众多传统机器学习算法无法对上述任务进行建模。如何设计良好的奖励机制，是强化学习系统算法建模之前就要想清楚的问题。RLHF的做法是不再像原有RL依赖机器计算奖励反馈，而是利用人工计算奖励反馈，所以该算法框架才被定义为基于人类反馈的强化学习框架。
2. 强化学习是一种机器学习方法，它通过让智能体在环境中执行动作，以获得反馈或奖励信号，从而学习最优策略。通过不断地试错和调整策略，智能体逐渐找到能够最大化长期回报的行为路径。这种学习方法常用于需要决策和动态环境交互的任务，如游戏、机器人导航和自动化控制系统。想象一下，你有一只机器狗，它已经在基本的狗行为上进行了初步训练，比如行走和听从简单的命令。
   1. 微调就像是对这只机器狗进行进一步的训练以适应特定的任务环境。比如说，你希望这只机器狗能够在公园里捡回特定种类的球。通过微调，你可以在原有的训练基础上，用一组特定的数据集（比如各种颜色和大小的球）来调整其行为，使其在新环境中表现得更好。
   2. 强化学习训练则有点像是教这只机器狗通过尝试和错误来学习新技能（通常不依赖于预定义的数据集，而是依赖于与环境的持续交互。）。在这种情况下，你没有直接告诉它应该怎么做，而是为它设定一个目标，比如尽可能快地找到并捡起一只球。机器狗每完成一次任务都会获得奖励，然后它将通过调整自己的行为来最大化获得的奖励。例如，如果机器狗发现跑直线能更快地找到球，它可能会在未来的尝试中更倾向于这样做。
3. 强化学习是一种植根于试错学习（Trial-and-error learning）思想的智能化方法，其核心逻辑是通过与环境的持续交互不断优化系统决策能力。“强化”这一概念的起源可追溯至 1927 年，最初被用于描述巴甫洛夫条件反射实验中动物行为模式的增强现象。直到 20 世纪 60 年代，“强化”及“强化学习”等术语才正式进入工程领域，被用于定义基于试错机制的学习方法。进入 20 世纪 80 年代，强化学习算法迎来关键突破——在马尔可夫决策过程（Markov Decision Processes，MDP）框架下逐步构建起相对严谨的数学理论基础，为技术的规范化发展奠定了核心支撑，并在实际应用中开始展现突破性价值。

o1核心作者MIT演讲：激励AI自我学习，比试图教会AI每一项任务更重要

1. 激励AI自我学习比试图教会AI每一项具体任务更重要。如果尝试以尽可能少的努力解决数十个任务，那么单独模式识别每个任务可能是最简单的；如果尝试解决数万亿个任务，通过学习通用技能（例如语言、推理等）可能会更容易解决它们。“授人以鱼不如授人以渔”，用一种基于激励的方法来解决任务。Teach him the taste of fish and make him hungry.（教AI尝尝鱼的味道，让他饿一下）然后AI就会自己出去钓鱼，在此过程中，AI将学习其他技能，例如耐心、学习阅读天气、了解鱼等。其中一些技能是通用的，可以应用于其他任务。面对这一“循循善诱”的过程，也许有人认为还不如直接教来得快。但在Hyung Won看来：对于人类来说确实如此，但是对于机器来说，我们可以提供更多的计算来缩短时间。换句话说，面对有限的时间，人类也许还要在专家 or 通才之间做选择，但对于机器来说，算力就能出奇迹。
2. 此外，他还认为当前存在一个误区，即人们正在试图让AI学会像人类一样思考。但问题是，我们并不知道自己在神经元层面是如何思考的。机器应该有更多的自主性来选择如何学习，而不是被限制在人类理解的数学语言和结构中。在他看来，一个系统或算法过于依赖人为设定的规则和结构，那么它可能难以适应新的、未预见的情况或数据。造成的结果就是，面对更大规模或更复杂的问题时，其扩展能力将会受限。

PPO理论推导+代码实战 建议细读。

强化学习整体流程

1. 强化学习的两个实体：智能体（Agent/Actor）与环境（Environment）。在强化学习中，学习和决策者称为智能体（Agent），智能体之外所有与其相互作用的事物称为环境。
2. 强化学习的核心在于两个实体的交互：
   1. 状态空间S：S即为State，指环境中所有可能状态的集合
   2. 动作空间A：A即为Action，指智能体所有可能动作的集合
   3. 奖励R：R即为Reward，指智能体在环境的某一状态下所获得的奖励，scalar for each step or episode。episode 指的是智能体（agent）从环境（environment）中 开始交互到结束的一段完整轨迹，这段轨迹由一系列状态（state）、动作（action）、奖励（reward）组成：$s_0, a_0, r_1, s_1, a_1, r_2, …, s_T$，其中 T 表示 episode 结束的时间步（终止状态）。

无监督学习直接基于给定的数据进行建模，其主要目标是发现数据中隐藏的内在结构或模式，整个过程没有外部反馈，算法自行探索静态数据。而强化学习则不同，它通过与环境的持续交互来学习，智能体通过试错不断调整策略，以最大化累积奖励（return = $\sum_{t=1}^{T}r_t$）。也就是如果你能收集很多<s,a->r> training data, 就可以监督学习Agent（如果agent 是一个network的话），不过一般不直接用r，我们用A来表示你有多希望s时采取动作a，<s,a->A>，在实践中，A有多种表示方式。

1. r 直接作为A，缺点是会导致actor 比较短视
2. G 作为A，缺点是越靠前的a的A越大，也不符合实际。
3. 离a越远的r打一下折扣
4. G是绝对值，不能直接用，比如一次考试你单说考了80分其实说不清楚你考的好与差，所以要对G标准化一下，一个简单的方法是减去一个baseline。PS：好了，现在如何选baseline也有很多花样了
5. 但其实这么做还有问题，比如对于下围棋来说，大部分a的$r_i$都是0，最后最后一步的a的r是1（赢）或-1（输）。所以A的花活很多，甚至专门安排一个模型来学习。

强化学习的反馈通常表现为稀疏且延迟的奖励信号，这种奖励函数可以被视为一种远期的、非直接的“正确目标”。无监督学习处理的数据通常是静态且无关联的，其经典假设是数据点之间独立同分布。相比之下，强化学习处理的是典型的序列决策问题，其数据由状态、动作和奖励组成的序列在时间上高度相关，并且不满足独立同分布条件。这种时间依赖性和序列相关性是强化学习算法设计复杂性的主要来源，也是其区别于其他学习方法的核心特征。

强化学习的数学建模基础

强化学习的学习过程通常被建模为马尔可夫决策过程（Markov Decision Process，MDP）。它有个重要特性：下一个时刻的状态只取决于当前状态，与过去状态无关。

1. 你可能听说过马尔可夫随机过程（stochastic process），用数学公式表示就是：P(St+1​∣St​)=P(St+1​∣S1​,...,St​)。
   1. 随机过程（stochastic process）是概率论的“动力学”部分。概率论的研究对象是静态的随机现象，而随机过程的研究对象是随时间演变的随机现象（例如气温随时间的变化）。在随机过程中，随机现象在某时刻 t 的取值是一个随机向量，用 St​ 表示，所有可能的状态组成状态集合 S。随机现象便是状态的变化过程。在某时刻 t 的状态 St​ 通常取决于 t 时刻之前的状态。我们将已知历史信息 (S1​,S2​,...,St​) 时，下一时刻状态为 St+1​ 的概率表示成P(St+1​∣S1​,S2​,...,St​)。
   2. 当且仅当某时刻的状态只取决于上一时刻的状态时，一个随机过程被称为具有马尔可夫性质，用公式表示为 P(St+1​∣St​)=P(St+1​∣S1​,S2​,...,St​)。也就是说，当前状态是未来的充分统计量，即下一个状态只取决于当前状态，而不会受到过去状态的影响。例如：下棋时，当前棋盘状态已包含所有历史走棋信息，无需记忆每一步的落子顺序。只要当前状态可知，所有的历史信息都不再需要了，利用当前状态信息就可以决策未来。
2. 在强化学习中，对于环境（系统）状态变化和奖励更新具有马尔可夫性质的序贯决策问题，我们需要考虑动作的影响，所以扩展为马尔可夫决策过程：下一个状态取决于当前状态和当前动作，公式为：P(St+1​∣St​,At​)。这是强化学习的理论基石，为什么这个概念如此重要？马尔可夫决策过程解决了三个核心问题：
   1. 状态简化：利用马尔可夫性质，让我们只需关注当前状态而非全部历史；
   2. 用状态转移概率描述动作如何影响环境；
   3. 通过价值函数将长期奖励目标转化为可计算的数学问题。
3. 马尔可夫决策过程核心元素符号化表示为五元组（S,A,P,R,γ）, 其中：
   1. S：状态空间
   2. A：动作空间

   3. P：状态转移概率矩阵 $P(s’

      s,a)$

   4. R：奖励函数$R(s,a,s’)$
   5. γ：折扣因子，为何要引入折扣因子（或称为衰减因子）。所谓折扣，就是对未来回报的价值进行折现。折扣因子的引入是为了区分短期回报和长期回报，对“未来的回报”根据其获得时间而打折。它的作用机制类比于储蓄产生的利息。设想我们将 100 元存入银行，存的越久，利息越低。为何会这样呢？因为“未来的”100 元比起当前的 100 元是贬值的，而这个“贬值”的比例，就是用折扣因子来建模。当折扣因子越接近于 1 越关注未来收益，越接近于 0 越关注当前收益。

关键符号的延伸说明:

1. 状态与转移概率：用 $P(s’

   s,a)$ 表示，指在状态 $ s $ 执行动作 $ a $ 后转移到状态 $ s’ $ 的概率，即：$ P(s’

   s,a) = \mathbb{P}[S_{t+1} = s’

   S_t = s, A_t = a] $。

2. 奖励与回报 (Return)：指从某一时刻开始的所有奖励的累积折扣和，用 $ G_t $ 表示，折扣因子为 $ \gamma （ 0 \leq \gamma \leq 1 $）。即，$ G_t = r_{t+1} + \gamma r_{t+2} + \gamma^2 r_{t+3} + \dots = \sum_{k=0}^{\infty} \gamma^k r_{t+k+1} $。
3. 价值函数 (Value Function)，在强化学习中，很多奖励是延迟的（比如游戏到最后才得分），所以我们需要用价值函数来评估某个状态或动作的长期价值。反过来说，价值函数用于评估长期收益，解决延迟奖励问题。

   • 状态价值函数：$ v_{\pi}(s) $ 表示在策略 $ \pi $ 下，从状态 $ s $ 出发的期望回报，即 $ v_{\pi}(s) = \mathbb{E}_{\pi}[G_t

     S_t = s] $

   • 动作价值函数：$ q_{\pi}(s,a) $ 表示在策略 $ \pi $ 下，从状态 $ s $ 执行动作 $ a $ 后的期望回报，即 $ q_{\pi}(s,a) = \mathbb{E}_{\pi}[G_t

     S_t = s, A_t = a] $

4. 最优策略：$ \pi^* $ 是使所有状态价值函数最大化的策略，满足 $ \pi^(s) = \arg\max_a q_{\pi}(s,a), \forall s \in S $。且最优状态价值函数 $ v^(s) $ 和最优动作价值函数 $ q^(s,a) $ 满足 $ v^(s) = \max_a q^(s,a) $，$ q^(s,a) = r(s,a) + \gamma \sum_{s’} P(s’

   s,a) v^*(s’) $。

在强化学习（Reinforcement Learning, RL）的发展历程中，研究者始终面临一个核心问题：如何设计智能体的决策机制以实现长期收益最大化？这一问题催生出两大主流研究范式——基于价值的方法（Value-based Methods）和基于策略的方法（Policy-based Methods）。

基于价值的强化学习（参考）

在强化学习中，智能体的目标是通过与环境交互最大化累积奖励。但面对复杂环境，我们需要一种工具来评估“在某个状态下采取某个动作是否划算”——这就是价值函数的作用。智能体处于某状态时，依据当前状态与可选动作，查询 Q-table，就能得到对应的 Q 值。Q-Learning 算法通过不断与环境交互（试错），更新 Q 表中的 Q 值，让智能体逐渐学到：在什么状态下，执行什么动作，能获得更高的长期收益，最终掌握最优决策策略（比如游戏通关、机器人高效导航）。

1. Q-table（Q 表）：是存储“状态 - 动作 - Q 值”对应关系的数据结构，可理解为一张表格，行代表环境的不同状态（State），列代表智能体可执行的动作（Action），单元格数值就是 Q 值（Q-value）。
2. 状态（State）：智能体所处的环境快照，比如游戏里的当前关卡、角色位置；机器人导航中的坐标、障碍物分布等，是决策的环境基础。
3. 动作（Action）：智能体在当前状态下可选择的操作，比如游戏角色“移动、攻击、跳跃”，机器人“前进、转向、停止”等，是智能体与环境交互的手段。
4. Q 值（Q-value）：对“在某状态执行某动作后，未来累计收益”的估计。数值越高，代表该动作在当前状态下越“有价值”，是智能体学习“最优策略”的核心依据。

为了更精准地理解 Q 函数的作用，我们先明确强化学习中与“价值评估”相关的三个核心概念：奖励、回报与价值函数。

• 奖励（Reward）：环境对智能体动作的即时反馈，用 $ R_t $ 表示。比如游戏中吃到金币得 10 分，碰到敌人扣 50 分。
• 回报（Return）：从当前时刻开始的累积折扣奖励，公式为：$ G_t = R_t + \gamma \cdot R_{t+1} + \gamma^2 \cdot R_{t+2} + \dots + \gamma^{n - t} \cdot R_n $，其中 $ \gamma $ 是折扣因子（$ 0 \leq \gamma \leq 1 $），用于权衡即时奖励和未来奖励的重要性。简单来说，回报是“从现在开始，所有未来奖励的加权总和”，折扣因子 $ \gamma $ 越接近 1，说明智能体越重视长远奖励；越接近 0，则更关注即时奖励。

• 动作价值函数（Q 函数）：在状态 $ s $ 采取动作 $ a $ 后，遵循策略 $ \pi $ 能获得的期望回报，公式为：$ Q_{\pi}(s_t, a_t) = \mathbb{E}[U_t

  S_t = s_t, A_t = a_t] $，$ Q_{\pi}(s, a) $ 就是“在状态 $ s $ 做动作 $ a $ 的好坏程度”的量化指标。一旦找到 $ Q_(s, a) $，智能体在任意状态 $ s $ 下，只需选择对应 $ Q $ 值最大的动作 $ a $（即 $ a = \arg\max_a Q_(s, a) $），就是最优策略。

• 最优动作价值函数：在所有可能的策略中，能获得的最大 $ Q $ 值，公式为：$ Q_*(s_t, a_t) = \max_{\pi} Q_{\pi}(s_t, a_t), \forall s_i \in (S), a_t \in (A) $。

我们的目标就是找到这个最优 $ Q $ 函数，因为它能直接告诉我们“在任何状态下该做什么动作”。Q-table 作为 Q 函数最基础的具象化形式，通过表格结构直接存储每个（状态，动作）对对应的 Q 值，实现价值信息的直观映射。当系统的状态空间与动作空间均为离散类型且规模可控时，Q-table 凭借其简洁的结构和高效的查询能力，成为价值函数表征的理想选择。当状态和动作是连续空间时，$ Q $ 函数的输出是对每个（状态 - 动作）对的价值估计，此时无法用表格存储，需通过函数近似（如神经网络）拟合。Q - learning 使用表格的形式，对离散的动作价值函数进行表示；DQN 使用一个参数为 $ \theta $ 的神经网络来拟合 $ Q $ 函数，可以通过梯度下降来更新网络参数 $ \theta $ 的值，从而逼近真实的 $ Q $ 函数。

基于策略的强化学习（参考）

在强化学习的策略梯度方法中，“策略”是定义智能体行为逻辑的核心要素，它本质上是智能体在环境状态（State）与动作（Action）之间建立的映射规则，通常用符号 $\pi(a \mid s)$ 表示，直观理解为“当智能体处于状态 s 时，选择执行动作 a 的倾向性或概率分布”。策略梯度方法中的“策略”，标志着智能体优化目标的关键转变：它不再是被动地对环境建模（如估计状态价值），也不是通过价值判断间接选择动作，而是直接将“策略本身”作为优化对象——通过梯度上升等数学方法，持续调整 $\pi(a \mid s)$的参数，让策略生成的行为序列在与环境的互动中，最终实现“长期期望奖励”的最大化。

深度强化学习中，策略函数通常由神经网络实现，通过多层非线性变换将状态特征映射为动作分布参数。这种端到端的表示方式避免了人工特征工程，引入非线性变换，极大提升了策略的表达能力。策略优化的核心目标是找到最优参数$\theta^*$，最大化智能体在环境中的期望累积奖励。

早期的策略梯度算法 REINFORCE（Williams, 1992）正是基于这一原理实现，其完整流程如下：

1. 基于当前策略 $\pi_{\theta}$​ 采样多条轨迹；
2. 计算每条轨迹中每个时刻的累积回报 $G_t$​；

3. 估计策略梯度$ \hat{g} = \frac{1}{N} \sum_t \nabla_{\theta} \log \pi_{\theta}(a_t

   s_t) G_t $

4. 执行梯度上升更新$ \theta \leftarrow \theta + \alpha \hat{g} $

算法分类

强化学习就是在与环境的交互中获得反馈，不断更新模型，最大化整个过程的累积奖励（的期望，关于轨迹的回报的期望，期望一定是关于概率分布的）。但是具体到底怎样让智能体选择合适的动作来最大化期望奖励呢，根据对环境的了解情况，可以分成两个部分：Model-based 以及 Model-free.

1. Model-based：环境是一个白盒（每种状态对应的反馈已知、转移概率已知，等等），可以基于此设置策略。行为因此也受限于对环境的认知。Model-based 一族有 Value iteration, Policy iteration 等算法。
2. Model-free：环境是一个黑盒，只能通过环境基于的反馈进行学习。大多数常用的 RL 算法，譬如说 Q-learning, Policy gradient，都属于 Model-free。

Model-free 具体分为

1. 其中 Value-based 方法不需要一个具体的策略，而是让状态$V_{\pi}(s)$ -动作值函数 $Q_{\pi}(s,a)$ 充当隐式地承担起制定策略的角色，而不是直接优化策略。找到一个最优的价值函数，可以得到一个最优策略（只要衡量出每个动作的价值大小，自然可以采取策略）。PS：value-based 也可以用来筛选训练数据。
   1. $V_{\pi}(s) = E_{\pi}[G_t \mid S_t =s]$
   2. $Q_{\pi}(s,a) = E_{\pi}[G_t \mid S_t =s, A_t = a]$
   3. 优点，学习过程通常更稳定。收敛速度较快，通过贪婪策略可以间接得到最优策略。
   4. 缺点，只能处理离散且有限的动作空间，并且可能只能找到局部最优解。
2. 而 policy-based 方法有一个显式的策略，直接对策略$\pi(a \mid s)$进行建模和优化，这是在给定状态$s$下选择动作$a$的概率分布。让策略和环境交互多次，采样足够多的轨迹数据，来评估策略的价值，再据此决定策略的迭代方向。通过直接训练策略来找到最优策略。策略通常由参数化函数表示，如神经网络$\pi_{\theta}(a \mid s)$，其中$\theta$ 是需要学习的参数，通过最大化预期累积奖励$G_t$，对$\theta$进行优化。
   1. 优点，能够学习随机策略；适用于高维或连续的动作空间；通常能找到全局最优解。
   2. 缺点，通常收敛速度较慢，且评估策略的效果（如通过蒙特卡洛方法）可能具有高方差，导致学习过程不稳定。
3. actor-critic（比如PPO）是策略梯度方法与价值方法的创造性融合。
   1. actor 代表策略部分，负责生成动作。actor直接建模策略$\pi(a \mid s)$，并根据 Critic 的反馈调整策略参数，以优化长期奖励。
   2. critic，代表价值部分，负责评估采取的动作。actor根据 Critic 的反馈调整策略参数，以优化长期奖励。

Actor-Critic架构为什么要有Critic呢？这就涉及强化学习的算法稳定性问题。与监督学习（SL）相比，RL实际上是很难稳定的一类训练机制。大致的原因如下：

1. RL本身是处理动态系统的最优控制问题，而SL是处理一个静态优化问题。动，就比静更难处理。
2. 加上RL的数据非稳态，Env-agent交互机制的数据采集量少，这使得梯度计算的方差更大，方差一大就容易偏离预期目标，算法就容易跑飞了。主流的强化学习算法是怎么解决这一问题的呢？加上Critic，使用State-value function或者Action-value function稳定策略梯度的计算过程。更高级一些的算法是采用Advantage Function，也就是加上了Baseline，增加梯度计算的稳定性。这是AC算法总是优于REINFORCE算法的原因之一。
3. 如果没有Critic，PPO只能使用蒙特卡洛的完整轨迹回报（高方差）或单纯依赖即时奖励（短视），导致训练低效甚至失败。Critic的引入使得PPO能通过时序差分（TD）学习高效地估计价值，平衡偏差与方差。 PS： 配套的actor-critic 架构就得有actor model 和critic model

The Definitive Guide to Policy Gradients in Deep ReinforcementLearning:Theory, Algorithms and Implementations Policy Gradient 论文综述。

Policy Gradient（策略梯度）

DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning

一些基础概念（LLM训练任务下好理解版）：

• $\pi$（Policy，策略）：即LLM模型
• $\theta$（Parameter，参数）：即模型参数
• $\tau$（Trajectory，轨迹）：即输出序列，此处可以理解为输出的一整个句子，每一个输出token即为action。
• s（State，交互状态）：即上文，初始状态即为$s_1$
• a（Action，交互行为）：即输出的token，可以简单理解为每个字符。（实际上一个字不等于一个token）

那么，我们可以得到模型参数$\theta$ 下生成序列$\tau$ 的概率如下：

Reward Function（奖励函数定义，即输出序列$\tau$ 能获得的奖励），用于评估某个状态/动作序列的好坏：

因此可得，模型参数 ( \theta ) 下的Expected Reward（期望奖励）：

综上，我们希望调整模型参数 $ \theta $ 使这个期望奖励越大越好，因此可得Policy Gradient公式如下，期望做gradient ascent最大化期望奖励：

\(= \sum_{\tau} R(\tau) p_\theta(\tau) \nabla \log p_\theta(\tau) \quad \text{\# Note: } \nabla f(x) = f(x) \nabla \log f(x)\) \(= E_{\tau \sim p_\theta(\tau)} [R(\tau) \nabla \log p_\theta(\tau)]\) \(\approx \frac{1}{N} \sum_{n=1}^{N} R(\tau^n) \nabla \log p_\theta(\tau^n) \quad \text{\# 实际上就是N个轨迹近似期望，使期望reward最大化}\) \(= \frac{1}{N} \sum_{n=1}^{N} \sum_{t=1}^{T_n} R(\tau^n) \nabla \log p_\theta(a_t^n | s_t^n) \quad \text{\# 环境无法作用gradient 所以可以移除}\)

直观理解：在某个state（上文）下执行某个action（token）使得最后整个输出$ \tau$ 的reward是正的时候，我们应该增加这个输出的几率，反之减少。PS：rl就是，判断哪个输出更好，把这个输出的概率提高多少，还是算loss并反向传播。

但是，如果仔细看上述公式，会发现 $ R(\tau) $ 即reward恒为正的情况，那会导致一直在增加任何token的输出概率。但我们实际操作中是用sample的方式来训练，这就导致某些项实际上因为没被sample到而导致输出概率下降（实际ground truth是要提升）。所以我们希望引入一个baseline（b）让reward不是恒为正。公式变成如下：

通常我们可以将baseline设置为reward的期望值，即 $ b \approx E[R(\tau)] $。我们知道最终输出的是一个序列 ( \tau )，且在算reward时是以 $ \tau $ 的粒度计算的。即使整体的reward是正的，也不意味着序列中的每一个action都是有收益的（如：说了一串废话，最后才说对结果）。因此，更合理的做法是我们需要给每一个action合适的credit。

首先，我们会有一些假设（注意：并不一定什么情况下都适用，应根据具体情况使用不同的reward function）：

1. reward应单独为每个action计算（前面的）

   \[R(\tau^n) \rightarrow \sum_{t'=t}^{T_n} r_{t'}^n \quad \text{\# 计算当前action后所有reward的总和作为当前action的reward}\]

2. 越快完成任务应越重要，距离越远贡献越小

   \[R(\tau^n) \rightarrow \sum_{t'=t}^{T_n} r_{t'}^n \rightarrow \sum_{t'=t}^{T_n} \gamma^{t'-t} r_{t'}^n \quad \text{\# } \gamma \text{为时间衰减函数}\]

实际上 $R(\tau^n) - b$ 这一项其实是在算在某个state下执行某个action比执行其他action有多好，也就是我们常说的Advantage Function，可以表示为 $A^\theta(s_t, a_t)$ ，因此综上公式可以写作：

\(\nabla \overline{R}_\theta \approx \frac{1}{N} \sum_{n=1}^{N} \sum_{t=1}^{T_n} A^\theta(s_t, a_t) \nabla \log p_\theta(a_t^n \mid s_t^n)\) \(= E_{(s_t, a_t) \sim \pi_\theta} [A^\theta(s_t, a_t) \nabla \log p_\theta(a_t^n \mid s_t^n)]\)

actor-critic

PPO理论推导+代码实战 建议细读。

actor_loss 演变过程

在深度强化学习（Deep RL）中，actor通常是一个神经网络$\pi_{\theta}$，输入是状态$s$，输出动作空间$A$ 中的某个动作， $\theta$是需要学习优化的网络参数，相较于规则定义的actor，神经网络具有比较好的泛化性。

在训练过程中，怎么定义一个策略 $\pi$: state -> action 的好坏呢？自然地，可以根据强化学习的目标得到下式：

我们定义策略和状态转移都是随机的，优化目标是最大化累积折扣奖励的期望，对应着训练过程中我们需要采样多次轨迹，在足够多的样本基础上评估策略的好坏。

轨迹序列 $\tau$ 是在使用策略 $\pi_{\theta}$ 的情况下采样出来的，由于策略和状态转移都有随机性，$\tau \sim \pi_{\theta}$ 隐藏的完整含义为：

我们对优化目标计算梯度可以表示为： \(\begin{align*} \nabla J_{\pi_{\theta}} &= \sum_{\tau} R(\tau) \nabla P(\tau|\pi_{\theta}) \\ &= \sum_{\tau} R(\tau) P(\tau|\pi_{\theta}) \frac{\nabla P(\tau|\pi_{\theta})}{P(\tau|\pi_{\theta})} \\ &= \sum_{\tau} R(\tau) P(\tau|\pi_{\theta}) \nabla \log P(\tau|\pi_{\theta}) \\ &= E_{\tau \sim \pi_{\theta}} [R(\tau) \nabla \log P(\tau|\pi_{\theta})] \end{align*}\)

依据定义方式，策略和状态转移都是随机的，同时我们设一条轨迹有 (T) 个 timestep，则有 \(P(\tau|\pi_{\theta}) = p(s_0) \prod_{t = 0}^{T - 1} P(s_{t + 1}|s_t, a_t) \pi_{\theta}(a_t|s_t)\)

其中只有 (\pi_{\theta}(a_t|s_t)) 与 (\theta) 有关，据此我们继续推出： \(\begin{align*} \nabla \log (P(\tau|\pi_{\theta})) &= \nabla \left[ \log p(s_0) + \sum_{t = 0}^{T - 1} \log P(s_{t + 1}|s_t, a_t) + \sum_{t = 0}^{T - 1} \log \pi_{\theta}(a_t|s_t) \right] \\ &= \sum_{t = 0}^{T - 1} \nabla \log \pi_{\theta}(a_t|s_t) \end{align*}\)

综上所述，策略的梯度表达式为 \(\begin{align*} \nabla J_{\pi_{\theta}} &= E_{\tau \sim \pi_{\theta}} [R(\tau) \nabla \log P(\tau|\pi_{\theta})] \\ &= E_{\tau \sim \pi_{\theta}} \left[ R(\tau) \sum_{t = 0}^{T - 1} \nabla \log \pi_{\theta}(a_t|s_t) \right] \end{align*}\)

在实践中，我们可以通过采样足够多的轨迹来估计这个期望。假设采样N条轨迹，N足够大，每条轨迹涵盖$T_n$步，则上述梯度可以再次被写成：

其中$R(\tau_n)$是一条轨迹的累积奖励。由于 $\nabla log \pi_{\theta}(a_t \mid s_t) = \frac{\nabla\pi_{\theta}(a_t \mid s_t)}{\pi_{\theta}(a_t \mid s_t)} $，$\nabla log$ 相当于在每一个动作的梯度下除以采样到这个动作的概率。这样就避免了在采样过程中采到很多奖励值很低但是出现频次高的动作，造成模型对这种低奖励值高频次动作的偏好。 整体而言，相当于用$\pi_{\theta}(a_t \mid s_t)$做了某种归一化。

但并不是表示动作价值的优选，首先，它并没有告诉我们轨迹中某个单独的动作到底好不好，其次，我们在之前提到过由于采样具有随机性，有些动作只是没被采样到，并不代表它们不好，可以减去一个baseline来控制。

Actor loss，我们来另一个直观的loss设计方式：

1. Actor接收到当前上文 $S_t$ ，产出token $A_t$ （ $P(A_t \mid S_t)$ ）
2. Critic根据 $S_t$,$A_t$，产出对总收益的预测$V_t$
3. 那么Actor loss可以设计为： $ actor_loss = -{\textstyle\sum_{t \in response_timestep}} V_{t}log P(A_{t} \mid S_{t}) $，求和符号表示我们只考虑response部分所有token的loss。

为了表达简便，我们先把这个求和符号略去（下文也是同理），也就是说：$actor_loss = -V_{t}log P(A_{t} \mid S_{t})$，我们希望minimize这个actor_loss。这个loss设计的含义是，对上下文 $S_t$而言，如果token $A_t$产生的收益较高（ $V_t > 0$），那就增大它出现的概率，否则降低它出现的概率。

对NLP任务来说，如果Critic对 $A_{t}$ 的总收益预测为 $V_{t}$ ，但实际执行 $A_{t}$ 后的总收益是 $R_{t} + \gamma * V_{t+1}$，我们就定义优势/Advantage为： $Adv_{t} = R_{t} + \gamma * V_{t+1} - V_{t} $，我们用 $Adv_{t}$ 替换掉 $V_{t}$ ，则此刻actor_loss变为： $actor_loss = -Adv_{t}log P(A_{t} \mid S_{t})$。

$Adv_{t} = R_{t} + \gamma * V_{t+1} - V_{t} $这个就是单步TD误差，本质上是对优势函数 $Adv_{t}$的无偏估计。在RL算法中，常使用TD误差作为优势函数的估计，因为实际上用Critic model，很难提供真实的预期回报$V_{t}$，因为critic model只是用来拟合的一个网络，肯定有偏差。所以可通过多步TD误差的加权平均（GAE） 进一步降低方差。

PS：一些文章提到 critic_model 目的是计算优势值，就是每个action（生成不同token）的相对于baseline（也是critic_model 提供的）的优势。 用优势（相对值）而不是绝对值也更合理，毕竟critic_model不代表客观判断。actor_loss 还在演进，这里没有写完。总归是我们知道，可以给action model 每个token算loss 了。进而是不是可以可以理解为rlhf和sft的反馈粒度都是token？

critic_loss 演化过程

PPO理论推导+代码实战 不如这里详细。

关于critic_loss 第一想法是： $critic_loss =(R_t + \gamma * V_{t+1} - V_{t})^2 $

最小化TD Error（TD误差就是预测误差：实际观察到的和预测的差距）就可以训练一个预测状态价值的Critic model，critic优化是：

Reward Model提供环境的基础反馈信号（即$r_t$），是Critic学习的输入。Critic Model将即时奖励转化为长期价值估计，指导策略优化方向。

1. 只有Reward Model：只能提供即时奖励信号（如生成完整句子后的总分数），但无法评估每个 token 或部分响应的长期价值，使策略更倾向于选择长期回报更高的动作。
2. 只有Critic Model：若奖励函数未知（如逆强化学习），Critic无法凭空学习价值函数。 在PPO中，Reward Model提供基础的真实反馈，而Critic Model将其转化为长期价值估计，两者缺一不可。

重要性采样

李宏毅深度强化学习 未看

在实践中，我们为了降低采样成本，提升训练效率（采样是训练所需的，主要是不想对新的策略采样到的轨迹再计算奖励和优势），我们希望对得到的一批“经验”进行多次训练，过程如下：

1. 假设某次更新完毕后，我们得到策略 $\pi_{old}$
2. 我们用$\pi_{old}$和环境交互，得到一批经验数据（主要是状态价值、优势、回报）。
3. 我们将把这一批回合数据重复使用k次：即我们先把这批数据喂给 $\pi_{old}$，更新得到$\pi_{\theta_0}$，我们再把同一批数据喂给$\pi_{\theta_0}$，更新得到$\pi_{\theta_1}$；以此类推，做k次更新后，我们得到$\pi_{\theta}$。
4. 我们管这个过程叫off-policy（产出数据的策略和用这批数据做更新的策略不是同一个）。
5. 在这k次更新后，我们令$\pi_{old} = \pi_{\theta}$。重复上面的过程，直到达到设定的停止条件为止。

但是在我们训练的过程中，由于策略已经发生了改变，采样出来的分布已经变了。正常来说，当我们有两个分布$p(x)$和$q(x)$，但是又无法直接从 $p(x)$采样，我们可以这么描述$x \sim p(x)$下 的期望：$E_{x \sim p(x)}[f(x)] = \int \frac{p(x)}{q(x)} f(x) dx = E_{x \sim q(x)}[\frac{p(x)}{q(x)} f(x)]$，据此我们应该将新的策略梯度调整为：

GAE

在训练开始阶段， $V_{\pi}$很有可能无法刻画真实的状态价值，我们可以选择少信任$V_{\pi}$的计算结果，将 $V_{\pi}(s_{t+1})$展开得：

其中，$r_t,r_{t+1},r_{t+2},…$都是我们某次采样得到的即时奖励数据。如果$V_{\pi}$不准，那就信任实际采样结果，这样至少不会对优势函数的估计出现偏差。

\(\delta_{t+l} = r_t + \tau V_{\pi}(s_{t+1}) - V_{\pi}(s_t)\) 当 $\lambda$ 接近0时，$A_t^{GAE}$ 退化成一步TD误差：$r_t + \tau V_{\pi}(s_{t+1}) - V_{\pi}(s_t)$。当 $\lambda$ 接近1时$A_t^{GAE}$ 变成 $-V_{\pi} + \sum_{l=0}^{\infty} \gamma^l r_{t+l}$ GAE 使用整个剩余奖励序列来估计优势。记这种引入了GAE方法的单步优势为 $A_t^{GAE}(s_t,a_t)$，新的策略梯度调整为：

\(\nabla J(\pi_{\theta}) = \underset{\tau \sim \pi_{\theta_{old}}}{E_t} \left[ \frac{\pi_{\theta}(a_t | s_t)}{\pi_{old}(a_t | s_t)} A_{\pi}^{GAE}(s_t, a_t) \nabla log \pi_{\theta}(a_t | s_t) \right]\) 由于 $\nabla f(x) = f(x) \nabla log f(x)$，上式可以改写为： \(\nabla J(\pi_{\theta}) = \underset{\tau \sim \pi_{\theta_{old}}}{E_t} \left[ \frac{\nabla \pi_{\theta}(a_t | s_t)}{\pi_{old}(a_t | s_t)} A_{\pi}^{GAE}(s_t, a_t) \right]\) 我们的优化目标变成： \(\arg\max_{\pi_{\theta}} J(\pi_{\theta}) = \underset{\tau \sim \pi_{\theta_{old}}}{E_t} \left[ \frac{\pi_{\theta}(a_t | s_t)}{\pi_{\theta old}(a_t | s_t)} A_{\pi}^{GAE}(s_t, a_t) \right]\)

llm与强化学习

1. 宏观层
   1. 教 vs 发掘：这可能是大部分人对SFT和RL的直觉，一个要老师手把手教，一个追求自我探索，上限可想而知。
   2. 非唯一解：如果你有绝对的最佳答案，那用SFT应该是又快又好。但很多问题是没有唯一答案的，所以SFT面临泛化性挑战，或者说涌现不出智能。
   3. 规模化：监督数据是很难规模化的，难以收集方方面面的高质量标注数据。从‘人类模拟器’的角度，RL有望通过探索来扩展训练数据，甚至获得未知数据，比如LLM用于科研领域。
2. 微观层
   1. Token-level vs Output-level：SFT可以看成一种token level的反馈，通过交叉熵损失函数计算每个位置的误差。而RL是output level，会评估整体输出的好坏。例子：
      1. sft：输入 “春暖花_“，参考输出为”开”，模型若生成 “谢”，则该token产生损失梯度。
      2. rl：输入 “写一首关于春天的诗”，给生成的诗句进行综合评分（如4.5/5分），对每个token都会估计全局收益。
   2. 定性和定量的偏好：SFT通过离线数据处理流程获得了高质量的样本，因此LLM学到了我要按照xyz这种方式说话；但RL中会引入优势值，计算当前答案比baseline好多少，根据优势值得到梯度，因此模型可能更清楚不同层次答案的差异。并且能够通过策略梯度支持数值化的奖励，而不只是偏序。从这个角度看，DPO也是只能做到定性，a比b好，但没有建模好多少；

RL4LMs/rl 与llm post-train

RL for LLM本质理解大型语言模型的演进，长期以来依赖于标准的监督学习（Supervised Learning）范式，主要体现在预训练（Pretrain）和指令微调（SFT）两个阶段。该范式的核心在于，模型需要依赖人类给出的、从输入到输出的完整监督信号进行学习。若要仅凭此路径达到通用人工智能（AGI）的高度，必须满足两个近乎理想化的前提条件：

1. 监督数据的无限性与完备性：数据量级需趋于无穷，且其分布能覆盖所有可能遇到的问题，以确保模型的全知性。
2. 监督信号的绝对完美性：所有监督数据必须准确无误，不存在任何错误或偏见，以确保模型的正确性。 然而，在现实中，这两点均难以实现。一方面，高质量的人类标注数据已出现“数据瓶颈”，其生产成本高昂且效率有限(我们已经用完了几乎所有的互联网信息，把人类历史上所有的数据都压缩到了模型之中，现在我们已经只能依靠标注数据和合成数据勉强提升模型的性能了)。另一方面，人类知识本身存在边界（如许多科学未解之谜），且在标注过程中不可避免地会引入错误和主观偏见。因此，探索一种能够突破上述局限性的新扩展方法（scaling method）势在必行。这种新方法需要满足：
3. 数据能够以更高效、低成本的方式进行规模化扩展。
4. 对监督信号的依赖可以放宽，不再要求“专家级别”的完美答案。

RL之所以被视为LLM持续进化的关键，源于其两个显著特征：

1. 数据由模型与环境交互自发生成：这从根本上解决了数据来源的限制，为模型的持续学习提供了近乎无限的原材料。
2. 监督信息从“生成式”退化为“验证式”：RL的核心是奖励信号（reward），它不要求监督者提供完美的“专家答案”，而只需对模型生成的答案进行有效性或质量的“验证”。基于“验证答案的难度远低于生成答案”这一基本事实，RL大幅降低了对监督信息质量和标注难度的要求

图解大模型RLHF系列之：人人都能看懂的PPO原理与源码解读 文章后半部分没有跟上。 强化学习在LLM中的应用：给定prompt，调整policy，生成符合人类喜好（RM偏序信号）的response

1. 状态S：输入prompt
2. 在t时刻，模型根据上文，产出一个token，这个token即对应着强化学习中的动作，我们记为$A_t$。因此不难理解，在llm语境下，强化学习任务的动作空间就对应着词表。
3. 在 t时刻，模型产出token $A_t$ 对应着的即时收益为 $R_{t}$，总收益为$V_{t}$ ，这个收益即可以理解为“对人类喜好的衡量”。此刻，模型的状态从 $S_{t}$变为$S_{t+1}$，也就是从“上文”变成“上文 + 新产出的token”
4. 在llm语境下， 智能体是语言模型本身，环境则对应着它产出的语料

PS：在强化学习中，模型的输出概率被称为模型的策略。无论我们如何训练LLM，不变的部分是其输入空间（提示词的字符串）和输出空间（所有token组成的词表）。在有了RLHF这一步之后，llm就不仅仅是统计模型。

汇总

没有强化学习基础也能看懂的PPO & GRPO 建议细读。

1. 只有Reward时的朴素做法：为什么会有问题？奖励信号波动很大，PS：激励一直为正
2. 引入 Critic，引入价值函数当参考线（baseline），从“只用 Reward” 进化成“用 Advantage 来衡量进步”
3. 加入 Clip 与 min 操作：防止更新过度。比如 $\frac{P(A_t \mid S_t)}{P_{old}(A_t \mid S_t)}$ 设置一个范围，例如(0.8 ,1.2)，也就是如果这个值一旦超过1.2，那就统一变成1.2；一旦小于0.8，那就统一变成0.8。相当于在超过约束范围时，我们停止对Actor模型进行更新。
4. Reference Model：防止作弊、极端策略，新的行为不能和这个初始策略差太远，否则就要受到 KL惩罚。Actor 不会为了短期 Reward 而脱离原本合理的策略范畴，保证策略在演化过程中不至于“作弊”或偏得太离谱。
   1. PS：题外话，有文章提到KL_loss 初期基本没影响，训得久了之后（750 step 往后）就让模型训不动了。KL_loss 一直以来被诟病的就是“reference_model 为什么不定期更新一下”。都过了几千、几万step 了，还要被原始的模型来约束，非常不合理，现在很多强化工作确实也都选择不用 KL_loss 了。
5. Critic（价值函数）通常需要跟 Actor 同等大小的网络去估计，否则很难评估到位，成本很高，而且有些场景（比如只在回答末尾才有一个整体 Reward）并不太适合训练出精细的价值函数。用同一问题的多条输出做平均，得到一个“相对评分”，再做标准化后作为 Advantage。

online/offline policy

在强化学习中，策略可以根据它们与数据生成策略的关系被分类为 on-policy 或 off-policy。这两种方法在处理经验数据和更新策略时有所不同，

1. On-policy 方法直接从目标策略（即当前学习和评估的策略）中采样数据，它要求学习算法和行为策略是一致的，即生成数据的策略必须是当前优化的策略。比如用当前模型对一批问题生成回答，然后根据这些回答的质量（奖励）来调整模型参数，让它下次说得更好。这里的数据和模型是 “同步” 的 —— 数据来自 “现在的模型”，优化的也是 “现在的模型”。 也就是在传统supervisor learning中，training data都是事先准备好的，无论跑多少次Epoch 都是一批training data，而对与rl 来说，参数要更新多少次，training data 就要更新多少次，用本轮的$\theta$ 输出的<s,a> 计算<s,a,A>来更新$\theta$，体现在代码上就是training data产生在for循环之内。PS：也是为何rl 比较耗时。
2. Off-policy 方法允许从与目标策略不同的行为策略中采样数据。比如训练时用的数据不是当前模型生成的，而是来自 “别人”（比如人类专家写的回答、更强的模型生成的回答，或者过去版本的模型留下的回答）。虽然这些回答不是当前模型自己说的，但可以帮它更快学到正确的模式。 on-policy 和 off-policy 的区别，主要体现在对数据的使用上，off-policy 的训练效率会明显更高一些。一方面，off-policy 可以不等所有的 response 生成完毕，就启动模型训练；另一方面，off-policy 可以多次使用同一条数据，提高数据利用率，on-policy 则不可以。 off-policy 的模型快速熵坍缩（ on-policy缓慢熵坍缩）。防止熵坍缩：加入熵 loss 和 clip higher 。