跳到正文
事件追踪已归档

ExpDis 将 RLVR 探索与优化解耦

首次报道 最新进展 1 篇报道,1 个来源

事件综述根据 1 篇报道整理,10月30日更新

一篇论文提出 Exploration-Distillation(ExpDis)方法,把 RLVR 训练拆成两个模型:探索者模型因找到新颖解法获得奖励,学生模型只从探索者已验证正确的解法中学习,之后再继续标准 RL。 据 alphaXiv 介绍,在三个模型上、相同算力预算下,ExpDis 在数学推理任务上的准确率与解法多样性均优于标准 DAPO,甚至超过训练步数多 4 倍的 DAPO。该结果来自论文自述,尚待独立复现。

综述由模型根据报道生成,细节以各篇原文为准。

进展时间线

北京时间,最早在上
  1. alphaXivExpDis 解耦 RLVR 探索与优化

    阅读这篇报道

全部报道

1 篇,点开看摘要
ExpDis 将 RLVR 的探索与优化解耦alphaXiv预印本未入选

论文提出 Exploration-Distillation(ExpDis),把 RLVR 训练拆成两个模型:探索者因找到新颖解法获得奖励,学生模型只从探索者已验证正确的解法中学习,再继续标准 RL。在三个模型上,相同算力预算下 ExpDis 在数学推理上优于标准 DAPO,准确率与解法多样性均提升,甚至超过训练步数多 4 倍的 DAPO。

阅读这篇报道